# चॅट प्रोजेक्ट हा चॅट प्रोजेक्ट GitHub Models वापरून चॅट असिस्टंट कसा तयार करायचा हे दाखवतो. अंतिम प्रोजेक्ट कसा दिसतो ते येथे आहे: ![चॅट अ‍ॅप](../../../translated_images/screenshot.0a1ee0d123df681b4501eb53ffb267519fcc20aa653eabecef1e7561ddfb1cab.mr.png) थोडक्यात सांगायचं तर, जनरेटिव्ह AI वापरून चॅट असिस्टंट तयार करणे हे AI शिकण्यास सुरुवात करण्याचा एक उत्तम मार्ग आहे. या धड्यादरम्यान तुम्ही जनरेटिव्ह AI वेब अ‍ॅपमध्ये कसे समाकलित करायचे ते शिकाल, चला सुरुवात करूया. ## जनरेटिव्ह AI शी कनेक्ट होणे बॅकएंडसाठी, आम्ही GitHub Models वापरत आहोत. ही एक उत्कृष्ट सेवा आहे जी तुम्हाला AI विनामूल्य वापरण्याची परवानगी देते. त्याच्या प्लेग्राउंडवर जा आणि तुमच्या निवडलेल्या बॅकएंड भाषेशी संबंधित कोड मिळवा. GitHub Models Playground येथे कसे दिसते ते येथे आहे: [GitHub Models Playground](https://github.com/marketplace/models/azure-openai/gpt-4o-mini/playground) ![GitHub Models AI Playground](../../../translated_images/playground.d2b927122224ff8ff4028fc842176e353c339147d8925455f36c92fb1655c477.mr.png) जसे सांगितले, "Code" टॅब आणि तुमचा निवडलेला रनटाइम निवडा. ![Playground choice](../../../translated_images/playground-choice.1d23ba7d407f47584c9f446c77f0bcf70cae794cc9c8d7849a3cca4a3693e6c4.mr.png) ### Python वापरणे या प्रकरणात आम्ही Python निवडतो, ज्याचा अर्थ आम्ही हा कोड निवडतो: ```python """Run this model in Python > pip install openai """ import os from openai import OpenAI # To authenticate with the model you will need to generate a personal access token (PAT) in your GitHub settings. # Create your PAT token by following instructions here: https://docs.github.com/en/authentication/keeping-your-account-and-data-secure/managing-your-personal-access-tokens client = OpenAI( base_url="https://models.github.ai/inference", api_key=os.environ["GITHUB_TOKEN"], ) response = client.chat.completions.create( messages=[ { "role": "system", "content": "", }, { "role": "user", "content": "What is the capital of France?", } ], model="openai/gpt-4o-mini", temperature=1, max_tokens=4096, top_p=1 ) print(response.choices[0].message.content) ``` चला हा कोड थोडा साफ करूया जेणेकरून तो पुन्हा वापरता येईल: ```python def call_llm(prompt: str, system_message: str): response = client.chat.completions.create( messages=[ { "role": "system", "content": system_message, }, { "role": "user", "content": prompt, } ], model="openai/gpt-4o-mini", temperature=1, max_tokens=4096, top_p=1 ) return response.choices[0].message.content ``` या `call_llm` फंक्शनसह, आम्ही आता एक प्रॉम्प्ट आणि एक सिस्टम प्रॉम्प्ट घेऊ शकतो आणि फंक्शन परिणाम परत करते. ### AI असिस्टंट सानुकूलित करा जर तुम्हाला AI असिस्टंट सानुकूलित करायचा असेल तर तुम्ही सिस्टम प्रॉम्प्ट भरून त्याचे वर्तन कसे असावे हे निर्दिष्ट करू शकता: ```python call_llm("Tell me about you", "You're Albert Einstein, you only know of things in the time you were alive") ``` ## वेब API द्वारे एक्सपोज करा छान, आमच्याकडे AI भाग तयार आहे, चला पाहूया की आम्ही वेब API मध्ये ते कसे समाकलित करू शकतो. वेब API साठी, आम्ही Flask वापरण्याचा पर्याय निवडत आहोत, परंतु कोणतेही वेब फ्रेमवर्क चांगले असावे. त्यासाठी कोड पाहूया: ### Python वापरणे ```python # api.py from flask import Flask, request, jsonify from llm import call_llm from flask_cors import CORS app = Flask(__name__) CORS(app) # * example.com @app.route("/", methods=["GET"]) def index(): return "Welcome to this API. Call POST /hello with 'message': 'my message' as JSON payload" @app.route("/hello", methods=["POST"]) def hello(): # get message from request body { "message": "do this taks for me" } data = request.get_json() message = data.get("message", "") response = call_llm(message, "You are a helpful assistant.") return jsonify({ "response": response }) if __name__ == "__main__": app.run(host="0.0.0.0", port=5000) ``` येथे, आम्ही एक फ्लास्क API तयार करतो आणि एक डिफॉल्ट रूट "/" आणि "/chat" परिभाषित करतो. नंतरचा रूट आमच्या फ्रंटएंडद्वारे प्रश्न विचारण्यासाठी वापरण्यासाठी आहे. *llm.py* समाकलित करण्यासाठी आम्हाला काय करणे आवश्यक आहे ते येथे आहे: - `call_llm` फंक्शन आयात करा: ```python from llm import call_llm from flask import Flask, request ``` - "/chat" रूटमधून कॉल करा: ```python @app.route("/hello", methods=["POST"]) def hello(): # get message from request body { "message": "do this taks for me" } data = request.get_json() message = data.get("message", "") response = call_llm(message, "You are a helpful assistant.") return jsonify({ "response": response }) ``` येथे आम्ही JSON बॉडीमधून `message` प्रॉपर्टी पुनर्प्राप्त करण्यासाठी येणाऱ्या विनंतीचे विश्लेषण करतो. त्यानंतर आम्ही LLM ला या कॉलसह कॉल करतो: ```python response = call_llm(message, "You are a helpful assistant") # return the response as JSON return jsonify({ "response": response }) ``` छान, आता आम्ही आवश्यक ते केले आहे. ## Cors कॉन्फिगर करा आम्ही असे सांगू इच्छितो की आम्ही Cors सेट केले आहे, क्रॉस-ओरिजिन रिसोर्स शेअरिंग. याचा अर्थ असा की आमचा बॅकएंड आणि फ्रंटएंड वेगवेगळ्या पोर्टवर चालणार असल्यामुळे, आम्हाला फ्रंटएंडला बॅकएंडमध्ये कॉल करण्याची परवानगी द्यावी लागेल. ### Python वापरणे *api.py* मध्ये एक कोड आहे जो हे सेट करतो: ```python from flask_cors import CORS app = Flask(__name__) CORS(app) # * example.com ``` सध्या हे "*" म्हणजे सर्व ओरिजिन्सला परवानगी देण्यासाठी सेट केले आहे आणि ते थोडे असुरक्षित आहे, आम्ही उत्पादनात गेल्यावर ते मर्यादित केले पाहिजे. ## तुमचा प्रोजेक्ट चालवा तुमचा प्रोजेक्ट चालवण्यासाठी, तुम्हाला प्रथम तुमचा बॅकएंड आणि नंतर तुमचा फ्रंटएंड सुरू करणे आवश्यक आहे. ### Python वापरणे ठीक आहे, आमच्याकडे *llm.py* आणि *api.py* आहे, बॅकएंडसह हे कसे कार्य करू शकतो? बरं, दोन गोष्टी करणे आवश्यक आहे: - डिपेंडन्सी इंस्टॉल करा: ```sh cd backend python -m venv venv source ./venv/bin/activate pip install openai flask flask-cors openai ``` - API सुरू करा ```sh python api.py ``` जर तुम्ही Codespaces मध्ये असाल तर तुम्हाला संपादकाच्या तळाच्या भागात पोर्ट्सवर जावे लागेल, त्यावर उजवे क्लिक करा आणि "Port Visibility" वर क्लिक करा आणि "Public" निवडा. ### फ्रंटएंडवर काम करा आता आमच्याकडे API चालू आहे, चला यासाठी फ्रंटएंड तयार करूया. एक साधा फ्रंटएंड जो आम्ही टप्प्याटप्प्याने सुधारू. *frontend* फोल्डरमध्ये खालील तयार करा: ```text backend/ frontend/ index.html app.js styles.css ``` चला **index.html** पासून सुरुवात करूया: ```html