19 KiB

Raw Blame History

च्याट प्रोजेक्ट

यो च्याट प्रोजेक्टले GitHub Models प्रयोग गरेर च्याट असिस्टेन्ट कसरी निर्माण गर्ने देखाउँछ।

तपाईंले तयार प्रोजेक्टलाई यसरी देख्न सक्नुहुन्छ:

थोरै सन्दर्भ, जेनेरेटिभ एआई प्रयोग गरेर च्याट असिस्टेन्ट निर्माण गर्नु एआई सिक्न सुरु गर्नको लागि उत्कृष्ट तरिका हो। यस पाठको क्रममा तपाईंले जेनेरेटिभ एआईलाई वेब एपमा एकीकृत गर्न सिक्नुहुनेछ। सुरु गरौं।

जेनेरेटिभ एआईसँग जडान गर्नुहोस्

ब्याकएन्डको लागि, हामी GitHub Models प्रयोग गर्दैछौं। यो एक उत्कृष्ट सेवा हो जसले तपाईंलाई निःशुल्क एआई प्रयोग गर्न सक्षम बनाउँछ। यसको प्लेग्राउन्डमा जानुहोस् र तपाईंले रोजेको ब्याकएन्ड भाषासँग मेल खाने कोड प्राप्त गर्नुहोस्। यो यसरी देखिन्छ: GitHub Models Playground

जसरी भनिएको छ, "Code" ट्याब र तपाईंले रोजेको रनटाइम चयन गर्नुहोस्।

यस अवस्थामा, हामी Python चयन गर्छौं, जसले हामीलाई यो कोड दिन्छ:

"""Run this model in Python

> pip install openai
"""
import os
from openai import OpenAI

# To authenticate with the model you will need to generate a personal access token (PAT) in your GitHub settings. 
# Create your PAT token by following instructions here: https://docs.github.com/en/authentication/keeping-your-account-and-data-secure/managing-your-personal-access-tokens
client = OpenAI(
    base_url="https://models.github.ai/inference",
    api_key=os.environ["GITHUB_TOKEN"],
)

response = client.chat.completions.create(
    messages=[
        {
            "role": "system",
            "content": "",
        },
        {
            "role": "user",
            "content": "What is the capital of France?",
        }
    ],
    model="openai/gpt-4o-mini",
    temperature=1,
    max_tokens=4096,
    top_p=1
)

print(response.choices[0].message.content)

यो कोडलाई थोरै सफा गरौं ताकि यो पुन: प्रयोग गर्न सकियोस्:

def call_llm(prompt: str, system_message: str):
    response = client.chat.completions.create(
        messages=[
            {
                "role": "system",
                "content": system_message,
            },
            {
                "role": "user",
                "content": prompt,
            }
        ],
        model="openai/gpt-4o-mini",
        temperature=1,
        max_tokens=4096,
        top_p=1
    )

    return response.choices[0].message.content

यो call_llm फङ्सनको साथमा हामी अब एक प्रम्प्ट र सिस्टम प्रम्प्ट लिन सक्छौं, र फङ्सनले नतिजा फर्काउँछ।

एआई असिस्टेन्टलाई अनुकूलित गर्नुहोस्

यदि तपाईं एआई असिस्टेन्टलाई अनुकूलित गर्न चाहनुहुन्छ भने, तपाईंले सिस्टम प्रम्प्टलाई यसरी भर गरेर यसको व्यवहार निर्दिष्ट गर्न सक्नुहुन्छ:

call_llm("Tell me about you", "You're Albert Einstein, you only know of things in the time you were alive")

वेब एपीआई मार्फत यसलाई सार्वजनिक गर्नुहोस्

उत्तम, हामीले एआई भाग पूरा गर्यौं, अब हेर्नुहोस् कि हामी यसलाई वेब एपीआईमा कसरी एकीकृत गर्न सक्छौं। वेब एपीआईको लागि, हामी Flask प्रयोग गर्दैछौं, तर कुनै पनि वेब फ्रेमवर्क राम्रो हुनेछ। यसको कोड यसरी देखिन्छ:

# api.py
from flask import Flask, request, jsonify
from llm import call_llm
from flask_cors import CORS

app = Flask(__name__)
CORS(app)   # *   example.com

@app.route("/", methods=["GET"])
def index():
    return "Welcome to this API. Call POST /hello with 'message': 'my message' as JSON payload"


@app.route("/hello", methods=["POST"])
def hello():
    # get message from request body  { "message": "do this taks for me" }
    data = request.get_json()
    message = data.get("message", "")

    response = call_llm(message, "You are a helpful assistant.")
    return jsonify({
        "response": response
    })

if __name__ == "__main__":
    app.run(host="0.0.0.0", port=5000)

यहाँ, हामी एक फ्लास्क एपीआई सिर्जना गर्छौं र "/" र "/chat" नामक डिफल्ट रूट परिभाषित गर्छौं। दोस्रो रूट हाम्रो फ्रन्टएन्डले प्रश्नहरू पठाउन प्रयोग गर्नको लागि हो।

llm.py लाई एकीकृत गर्नका लागि हामीले निम्न गर्नुपर्छ:

call_llm फङ्सनलाई इम्पोर्ट गर्नुहोस्:
```
from llm import call_llm
from flask import Flask, request
```

"/chat" रूटबाट यसलाई कल गर्नुहोस्:

@app.route("/hello", methods=["POST"])
def hello():
   # get message from request body  { "message": "do this taks for me" }
   data = request.get_json()
   message = data.get("message", "")

   response = call_llm(message, "You are a helpful assistant.")
   return jsonify({
      "response": response
   })

यहाँ हामी आउने अनुरोधलाई पार्स गरेर JSON बडीबाट message प्रोपर्टी प्राप्त गर्छौं। त्यसपछि हामी यसलाई LLMसँग यसरी कल गर्छौं:

response = call_llm(message, "You are a helpful assistant")

# return the response as JSON
return jsonify({
   "response": response 
})

उत्तम, अब हामीले आवश्यक सबै काम गर्यौं।

Cors कन्फिगर गर्नुहोस्

हामीले Cors, अर्थात् क्रस-ओरिजिन रिसोर्स शेयरिङ सेटअप गरेको कुरा उल्लेख गर्नुपर्छ। यसको मतलब हाम्रो ब्याकएन्ड र फ्रन्टएन्ड फरक पोर्टमा चल्ने भएकाले, हामीले फ्रन्टएन्डलाई ब्याकएन्डमा कल गर्न अनुमति दिनुपर्छ। api.py मा यो सेटअप गर्ने कोड छ:

from flask_cors import CORS

app = Flask(__name__)
CORS(app)   # *   example.com

हाल यो "*" अर्थात् सबै ओरिजिनलाई अनुमति दिन सेट गरिएको छ, जुन अलि असुरक्षित छ। उत्पादनमा जाने बेला यसलाई सीमित गर्नुपर्छ।

आफ्नो प्रोजेक्ट चलाउनुहोस्

ठिक छ, हामीसँग llm.py र api.py छ, अब हामीले ब्याकएन्डसँग यसलाई कसरी चलाउने? दुई कुरा गर्नुपर्छ:

निर्भरता स्थापना गर्नुहोस्:

cd backend
python -m venv venv
source ./venv/bin/activate

pip install openai flask flask-cors openai

एपीआई सुरु गर्नुहोस्:
```
python api.py
```
यदि तपाईं Codespaces मा हुनुहुन्छ भने, तपाईंले एडिटरको तल्लो भागमा पोर्ट्समा जानुपर्छ, त्यसमा राइट-क्लिक गरेर "Port Visibility" क्लिक गर्नुहोस् र "Public" चयन गर्नुहोस्।

फ्रन्टएन्डमा काम गर्नुहोस्

अब हामीसँग एपीआई चलिरहेको छ, यसका लागि फ्रन्टएन्ड बनाऔं। न्यूनतम फ्रन्टएन्ड जसलाई हामी क्रमिक रूपमा सुधार गर्नेछौं। frontend फोल्डरमा निम्न सिर्जना गर्नुहोस्:

backend/
frontend/
index.html
app.js
styles.css

index.html बाट सुरु गरौं:

<html>
    <head>
        <link rel="stylesheet" href="styles.css">
    </head>
    <body>
      <form>
        <textarea id="messages"></textarea>
        <input id="input" type="text" />
        <button type="submit" id="sendBtn">Send</button>  
      </form>  
      <script src="app.js" />
    </body>
</html>

माथिको कोड च्याट विन्डोलाई समर्थन गर्नको लागि न्यूनतम आवश्यक हो। यसमा टेक्स्ट एरिया छ जहाँ सन्देशहरू देखिन्छन्, इनपुट छ जहाँ सन्देश टाइप गर्न सकिन्छ, र बटन छ जसले सन्देशलाई ब्याकएन्डमा पठाउँछ। अब app.js मा JavaScript हेर्नुहोस्।

app.js

// app.js

(function(){
  // 1. set up elements  
  const messages = document.getElementById("messages");
  const form = document.getElementById("form");
  const input = document.getElementById("input");

  const BASE_URL = "change this";
  const API_ENDPOINT = `${BASE_URL}/hello`;

  // 2. create a function that talks to our backend
  async function callApi(text) {
    const response = await fetch(API_ENDPOINT, {
      method: "POST",
      headers: { "Content-Type": "application/json" },
      body: JSON.stringify({ message: text })
    });
    let json = await response.json();
    return json.response;
  }

  // 3. add response to our textarea
  function appendMessage(text, role) {
    const el = document.createElement("div");
    el.className = `message ${role}`;
    el.innerHTML = text;
    messages.appendChild(el);
  }

  // 4. listen to submit events
  form.addEventListener("submit", async(e) => {
    e.preventDefault();
   // someone clicked the button in the form
   
   // get input
   const text = input.value.trim();

   appendMessage(text, "user")

   // reset it
   input.value = '';

   const reply = await callApi(text);

   // add to messages
   appendMessage(reply, "assistant");

  })
})();

कोडलाई खण्ड अनुसार जाऔं:

1. यहाँ हामी सबै एलिमेन्टहरूको रेफरेन्स लिन्छौं जसलाई पछि कोडमा प्रयोग गरिन्छ।
1. यस खण्डमा, हामी एक फङ्सन बनाउँछौं जसले बिल्ट-इन fetch मेथड प्रयोग गरेर हाम्रो ब्याकएन्डलाई कल गर्छ।
1. appendMessage ले प्रतिक्रिया र प्रयोगकर्ताले टाइप गरेको सन्देश थप्न मद्दत गर्छ।
1. यहाँ हामी सबमिट इभेन्टलाई सुन्छौं र इनपुट फिल्ड पढ्छौं, प्रयोगकर्ताको सन्देशलाई टेक्स्ट एरियामा राख्छौं, एपीआईलाई कल गर्छौं, र प्रतिक्रिया टेक्स्ट एरियामा देखाउँछौं।

अब स्टाइलिङ हेर्नुहोस्, यहाँ तपाईंले आफ्नो इच्छाअनुसार डिजाइन गर्न सक्नुहुन्छ, तर केही सुझावहरू छन्:

styles.css

.message {
    background: #222;
    box-shadow: 0 0 0 10px orange;
    padding: 10px:
    margin: 5px;
}

.message.user {
    background: blue;
}

.message.assistant {
    background: grey;
}

यी तीन क्लासहरूले सन्देशलाई फरक शैली दिन्छन्, यो असिस्टेन्टबाट आएको हो वा प्रयोगकर्ताबाट। प्रेरित हुन चाहनुहुन्छ भने solution/frontend/styles.css फोल्डर हेर्नुहोस्।

बेस युआरएल परिवर्तन गर्नुहोस्

यहाँ एउटा कुरा सेट गरिएको थिएन, त्यो हो BASE_URL, यो ब्याकएन्ड सुरु नभएसम्म थाहा हुँदैन। यसलाई सेट गर्न:

यदि तपाईंले एपीआई स्थानीय रूपमा चलाउनुहुन्छ भने, यसलाई http://localhost:5000 जस्तो सेट गर्नुपर्छ।
यदि Codespaces मा चलाउनुहुन्छ भने, यो "[name]app.github.dev" जस्तो देखिन्छ।

असाइनमेन्ट

आफ्नो project फोल्डर बनाउनुहोस् जसको सामग्री यसरी होस्:

project/
  frontend/
    index.html
    app.js
    styles.css
  backend/
    api.py
    llm.py

माथि उल्लेख गरिएको सामग्रीलाई प्रतिलिपि गर्नुहोस् तर आफ्नो इच्छाअनुसार अनुकूलित गर्न स्वतन्त्र महसुस गर्नुहोस्।

समाधान

Solution

बोनस

एआई असिस्टेन्टको व्यक्तित्व परिवर्तन गर्न प्रयास गर्नुहोस्। जब तपाईं api.py मा call_llm कल गर्नुहुन्छ, तपाईं दोस्रो आर्गुमेन्टलाई आफ्नो इच्छाअनुसार परिवर्तन गर्न सक्नुहुन्छ, उदाहरणका लागि:

call_llm(message, "You are Captain Picard")

CSS र टेक्स्टलाई पनि आफ्नो इच्छाअनुसार परिवर्तन गर्नुहोस्, त्यसैले index.html र styles.css मा परिवर्तन गर्नुहोस्।

सारांश

उत्तम, तपाईंले एआई प्रयोग गरेर व्यक्तिगत असिस्टेन्ट कसरी बनाउने भन्ने कुरा सुरुबाट सिक्नुभयो। हामीले GitHub Models, Python मा ब्याकएन्ड, र HTML, CSS, JavaScript मा फ्रन्टएन्ड प्रयोग गरेर यो गरेका छौं।

Codespaces सेटअप गर्नुहोस्

यहाँ जानुहोस्: Web Dev For Beginners repo
टेम्प्लेटबाट सिर्जना गर्नुहोस् (पक्का गर्नुहोस् कि तपाईं GitHub मा लगइन हुनुहुन्छ) माथि-दायाँ कुनामा:
एकपटक तपाईंको रिपोमा, Codespace सिर्जना गर्नुहोस्:

यसले तपाईंलाई काम गर्न सकिने वातावरण सुरु गर्नुपर्छ।

अस्वीकरण:
यो दस्तावेज़ AI अनुवाद सेवा Co-op Translator प्रयोग गरेर अनुवाद गरिएको छ। हामी शुद्धताको लागि प्रयास गर्छौं, तर कृपया ध्यान दिनुहोस् कि स्वचालित अनुवादमा त्रुटिहरू वा अशुद्धताहरू हुन सक्छ। यसको मूल भाषा मा रहेको मूल दस्तावेज़लाई आधिकारिक स्रोत मानिनुपर्छ। महत्वपूर्ण जानकारीको लागि, व्यावसायिक मानव अनुवाद सिफारिस गरिन्छ। यस अनुवादको प्रयोगबाट उत्पन्न हुने कुनै पनि गलतफहमी वा गलत व्याख्याको लागि हामी जिम्मेवार हुने छैनौं।

19 KiB Raw Blame History