update to instructor's version

app.py

@@ -1,64 +1,193 @@
+# import gradio as gr
+# from huggingface_hub import InferenceClient
+
+# """
+# For more information on `huggingface_hub` Inference API support, please check the docs: https://huggingface.co/docs/huggingface_hub/v0.22.2/en/guides/inference
+# """
+# client = InferenceClient("HuggingFaceH4/zephyr-7b-beta")
+
+
+# def respond(
+#     message,
+#     history: list[tuple[str, str]],
+#     system_message,
+#     max_tokens,
+#     temperature,
+#     top_p,
+# ):
+#     messages = [{"role": "system", "content": system_message}]
+
+#     for val in history:
+#         if val[0]:
+#             messages.append({"role": "user", "content": val[0]})
+#         if val[1]:
+#             messages.append({"role": "assistant", "content": val[1]})
+
+#     messages.append({"role": "user", "content": message})
+
+#     response = ""
+
+#     for message in client.chat_completion(
+#         messages,
+#         max_tokens=max_tokens,
+#         stream=True,
+#         temperature=temperature,
+#         top_p=top_p,
+#     ):
+#         token = message.choices[0].delta.content
+
+#         response += token
+#         yield response
+
+
+# """
+# For information on how to customize the ChatInterface, peruse the gradio docs: https://www.gradio.app/docs/chatinterface
+# """
+# demo = gr.ChatInterface(
+#     respond,
+#     additional_inputs=[
+#         gr.Textbox(value="You are a friendly Chatbot.", label="System message"),
+#         gr.Slider(minimum=1, maximum=2048, value=512, step=1, label="Max new tokens"),
+#         gr.Slider(minimum=0.1, maximum=4.0, value=0.7, step=0.1, label="Temperature"),
+#         gr.Slider(
+#             minimum=0.1,
+#             maximum=1.0,
+#             value=0.95,
+#             step=0.05,
+#             label="Top-p (nucleus sampling)",
+#         ),
+#     ],
+# )
+
+
+# if __name__ == "__main__":
+#     demo.launch()
+
+
 import gradio as gr
-from huggingface_hub import InferenceClient
-
-"""
-For more information on `huggingface_hub` Inference API support, please check the docs: https://huggingface.co/docs/huggingface_hub/v0.22.2/en/guides/inference
-"""
-client = InferenceClient("HuggingFaceH4/zephyr-7b-beta")
-
-
-def respond(
-    message,
-    history: list[tuple[str, str]],
-    system_message,
-    max_tokens,
-    temperature,
-    top_p,
-):
-    messages = [{"role": "system", "content": system_message}]
-
-    for val in history:
-        if val[0]:
-            messages.append({"role": "user", "content": val[0]})
-        if val[1]:
-            messages.append({"role": "assistant", "content": val[1]})
-
-    messages.append({"role": "user", "content": message})
-
-    response = ""
-
-    for message in client.chat_completion(
-        messages,
-        max_tokens=max_tokens,
-        stream=True,
-        temperature=temperature,
-        top_p=top_p,
-    ):
-        token = message.choices[0].delta.content
-
-        response += token
-        yield response
-
-
-"""
-For information on how to customize the ChatInterface, peruse the gradio docs: https://www.gradio.app/docs/chatinterface
-"""
-demo = gr.ChatInterface(
-    respond,
-    additional_inputs=[
-        gr.Textbox(value="You are a friendly Chatbot.", label="System message"),
-        gr.Slider(minimum=1, maximum=2048, value=512, step=1, label="Max new tokens"),
-        gr.Slider(minimum=0.1, maximum=4.0, value=0.7, step=0.1, label="Temperature"),
-        gr.Slider(
-            minimum=0.1,
-            maximum=1.0,
-            value=0.95,
-            step=0.05,
-            label="Top-p (nucleus sampling)",
-        ),
+import requests
+import re
+
+# endpoint : 
+deployment_name = "fimtrus-gpt-4o-ncus"
+endpoint = "https://fimtrus-openai-ncus.openai.azure.com/openai/deployments/{}/chat/completions".format(deployment_name)
+api_key = "FP7k76c0BGmz4MVot1LVqdtqcmQaKBeerYdFyXzW4NXN0940rRfEJQQJ99BCACHrzpqXJ3w3AAABACOG8189"
+
+ai_search_endpoint = "https://fimtrus-ai-search3.search.windows.net"
+ai_search_key = "lw8TYxNHT14hpM5oJQhCL3iOxR4PR494dV4RLDaiwzAzSeBecA5i"
+ai_search_index_name = "travel-index-microsoft2"
+ai_search_semantic = "travel-semantic"
+
+
+def request_gpt(prompt):
+  query_params = {
+    "api-version": "2025-02-01-preview"
+  }
+  headers = {
+      "Content-Type": "application/json",
+      "api-key": api_key
+  }
+  
+  body = {
+    "data_sources": [
+      {
+        "type": "azure_search",
+        "parameters": {
+          "endpoint": ai_search_endpoint,
+          "index_name": ai_search_index_name,
+          "semantic_configuration": ai_search_semantic,
+          "query_type": "semantic",
+          "fields_mapping": {},
+          "in_scope": True,
+          "filter": None,
+          "strictness": 3,
+          "top_n_documents": 3,
+          "authentication": {
+            "type": "api_key",
+            "key": ai_search_key
+          },
+          "key": ai_search_key
+        }
+      }
     ],
-)
+    "messages": [
+      {
+        "role": "system",
+        "content": "사용자가 정보를 찾는 데 도움이 되는 AI 도우미입니다."
+      },
+      {
+        "role": "user",
+        "content": prompt
+      }
+    ],
+    "temperature": 0.7,
+    "top_p": 0.95,
+    "max_tokens": 800,
+    "stop": None,
+    "stream": False,
+    "frequency_penalty": 0,
+    "presence_penalty": 0
+  }
+
+  response = requests.post(endpoint, params=query_params, headers=headers, json=body)
+  
+  if response.status_code == 200:
+    response_json = response.json()
+    message = response_json['choices'][0]['message']
+    content = message['content']
+    
+    content = re.sub(r'\[doc(\d+)\]', r'[참조 \1]', content)
+    
+    if message['context']:
+      citation_list = message['context']['citations']
+    else:
+      citation_list = list()
+    return content, citation_list
+  else:
+    return "", list()
 
+with gr.Blocks() as demo:
+    
+    citation_state = gr.State([])
+        
+    def click_send(prompt, histories):
+        print(prompt)
+        content, citation_list = request_gpt(prompt=prompt)
+        message_list = [{"role": "user", "content": prompt}, {"role": "assistant", "content": content}]
+        histories.extend(message_list)
+        
+        print(histories)
+        print(len(citation_list), citation_list)
+        return histories, citation_list, ""
+      
+    def select_tab(citation):
+      print("tab!!!!!!")
+      return gr.Textbox(label="", value=citation, lines=10, max_lines=10, visible=True)
+    
+    gr.Markdown("# 나의 GPT 월드")
+    
+    with gr.Row():
+      chatbot = gr.Chatbot(label="나의 GPT", type="messages", scale=3)
+    
+      with gr.Column(scale=1):  
+        @gr.render(inputs=[citation_state])
+        def render_citations(citations):
+          print(citations)
+          for index in range(len(citations)):
+            content = citations[index]['content']
+            key = "참조{}".format(index + 1)
+            if index == 0:
+              gr.Tab("", id=-1, visible=False)
+            with gr.Tab(key) as tab:
+              citation_textbox = gr.Textbox(label="", value=content, lines=10, max_lines=10, visible=False)
+            tab.select(fn=select_tab, inputs=[citation_textbox], outputs=[citation_textbox])
+        
+    with gr.Row():
+        prompt_textbox = gr.Textbox(label="프롬프트", placeholder="프롬프트를 입력하세요.", scale=6)
+        send_button = gr.Button("전송", scale=1)
+        
+    send_button.click(click_send, inputs=[prompt_textbox, chatbot], outputs=[chatbot, citation_state, prompt_textbox])
+    prompt_textbox.submit(click_send, inputs=[prompt_textbox, chatbot], outputs=[chatbot, citation_state, prompt_textbox])
 
 if __name__ == "__main__":
     demo.launch()

openai_gradio_20250314_dynamic 1.ipynb

@@ -0,0 +1,228 @@
+{
+ "cells": [
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [
+    {
+     "name": "stdout",
+     "output_type": "stream",
+     "text": [
+      "* Running on local URL:  http://127.0.0.1:7870\n",
+      "\n",
+      "To create a public link, set `share=True` in `launch()`.\n"
+     ]
+    },
+    {
+     "data": {
+      "text/html": [
+       "<div><iframe src=\"http://127.0.0.1:7870/\" width=\"100%\" height=\"500\" allow=\"autoplay; camera; microphone; clipboard-read; clipboard-write;\" frameborder=\"0\" allowfullscreen></iframe></div>"
+      ],
+      "text/plain": [
+       "<IPython.core.display.HTML object>"
+      ]
+     },
+     "metadata": {},
+     "output_type": "display_data"
+    },
+    {
+     "data": {
+      "text/plain": []
+     },
+     "execution_count": 11,
+     "metadata": {},
+     "output_type": "execute_result"
+    },
+    {
+     "name": "stdout",
+     "output_type": "stream",
+     "text": [
+      "[]\n",
+      "서면 갈만한곳\n",
+      "[{'role': 'user', 'content': '서면 갈만한곳'}, {'role': 'assistant', 'content': '경상남도 남해군 서면에서 갈만한 곳은 다음과 같습니다:\\n\\n1. **스포츠파크**: 이곳은 남해군의 대표적인 축구 훈련장으로, 계절에 관계없이 사용 가능한 시설입니다. 전국 각지의 전지훈련객들이 많이 찾는 곳입니다 [참조 1].\\n   - 위치: 경상남도 남해군 서면 스포츠파크길 74\\n   - 전화번호: 055-860-8661\\n\\n2. **장항거리**: 이곳은 사계절 내내 가족 단위 관광객들이 즐기기 좋은 장소입니다 [참조 2].\\n   - 위치: 경상남도 남해군 서면 남서대로1517번길 31\\n\\n3. **망운산 철쭉군락지**: 5월에 철쭉이 만개하는 이곳은 많은 사람들이 찾는 명소입니다. 정상까지는 약 1시간 30분 정도 소요됩니다 [참조 3].\\n   - 위치: 경상남도 남해군 서면 노구리 산 786m\\n   - 전화번호: 055-860-3676'}]\n",
+      "3 [{'content': '경상남도 남해군 서면 스포츠파크길 74\\n2002년 월드컵이 유치되면서 남해의 축구열기가 고조되었다. 많은 이들의 수요을 충족하기 위해 조성된 남해의 잔디 구장은 계절에 관계없이 사용할 수 있어 전국각지의 전지훈련객들에게 사랑받고 있다. 산책로가 조성되어 있어 산책하기도 안성맞춤이다.\\nY\\n34.8054935\\n127.8337739\\n스포츠파크\\n055-860-8661\\n봄, 여름, 가을, 겨울, 자가용/렌트, 친구, 키즈, 연인, 우정女, 우정男, 효도, 나홀로, 단체\\n관광지', 'title': None, 'url': None, 'filepath': None, 'chunk_id': '0'}, {'content': '경상남도 남해군 서면 남서대로1517번길 31\\nN\\n34.8004847\\n127.8364069\\n장항거리\\n봄, 여름, 가을, 겨울, 자가용/렌트, 친구, 키즈, 연인, 우정女, 우정男, 효도, 나홀로\\n관광지', 'title': None, 'url': None, 'filepath': None, 'chunk_id': '0'}, {'content': '경상남도 남해군 서면 노구리 산98\\n786m, 남해 최고 높이를 자랑하는 망운산. 5월에는 철쭉군락지의 꽃들이 만개해 가족단위나 친목회 등의 모임에서 많이 찾아오며, 정상까지는 1시간 30분정도 소요된다. 남해읍에서 관광안내판을 따라 남해대교 방향으로 3분 정도 가면 고현면 이어마을이 나타난다.\\nY\\n34.8569462\\n127.8514638\\n망운산 철쭉군락지\\n10\\n055-860-3676\\n봄, 자가용/렌트, 버스, 우정男, 나홀로, 단체\\n관광지', 'title': None, 'url': None, 'filepath': None, 'chunk_id': '0'}]\n",
+      "[{'content': '경상남도 남해군 서면 스포츠파크길 74\\n2002년 월드컵이 유치되면서 남해의 축구열기가 고조되었다. 많은 이들의 수요을 충족하기 위해 조성된 남해의 잔디 구장은 계절에 관계없이 사용할 수 있어 전국각지의 전지훈련객들에게 사랑받고 있다. 산책로가 조성되어 있어 산책하기도 안성맞춤이다.\\nY\\n34.8054935\\n127.8337739\\n스포츠파크\\n055-860-8661\\n봄, 여름, 가을, 겨울, 자가용/렌트, 친구, 키즈, 연인, 우정女, 우정男, 효도, 나홀로, 단체\\n관광지', 'title': None, 'url': None, 'filepath': None, 'chunk_id': '0'}, {'content': '경상남도 남해군 서면 남서대로1517번길 31\\nN\\n34.8004847\\n127.8364069\\n장항거리\\n봄, 여름, 가을, 겨울, 자가용/렌트, 친구, 키즈, 연인, 우정女, 우정男, 효도, 나홀로\\n관광지', 'title': None, 'url': None, 'filepath': None, 'chunk_id': '0'}, {'content': '경상남도 남해군 서면 노구리 산98\\n786m, 남해 최고 높이를 자랑하는 망운산. 5월에는 철쭉군락지의 꽃들이 만개해 가족단위나 친목회 등의 모임에서 많이 찾아오며, 정상까지는 1시간 30분정도 소요된다. 남해읍에서 관광안내판을 따라 남해대교 방향으로 3분 정도 가면 고현면 이어마을이 나타난다.\\nY\\n34.8569462\\n127.8514638\\n망운산 철쭉군락지\\n10\\n055-860-3676\\n봄, 자가용/렌트, 버스, 우정男, 나홀로, 단체\\n관광지', 'title': None, 'url': None, 'filepath': None, 'chunk_id': '0'}]\n",
+      "남해읍 갈만한곳\n",
+      "[{'role': 'user', 'metadata': {'title': None}, 'content': '서면 갈만한곳', 'options': None}, {'role': 'assistant', 'metadata': {'title': None}, 'content': '경상남도 남해군 서면에서 갈만한 곳은 다음과 같습니다:\\n\\n1. **스포츠파크**: 이곳은 남해군의 대표적인 축구 훈련장으로, 계절에 관계없이 사용 가능한 시설입니다. 전국 각지의 전지훈련객들이 많이 찾는 곳입니다 [참조 1].\\n   - 위치: 경상남도 남해군 서면 스포츠파크길 74\\n   - 전화번호: 055-860-8661\\n\\n2. **장항거리**: 이곳은 사계절 내내 가족 단위 관광객들이 즐기기 좋은 장소입니다 [참조 2].\\n   - 위치: 경상남도 남해군 서면 남서대로1517번길 31\\n\\n3. **망운산 철쭉군락지**: 5월에 철쭉이 만개하는 이곳은 많은 사람들이 찾는 명소입니다. 정상까지는 약 1시간 30분 정도 소요됩니다 [참조 3].\\n   - 위치: 경상남도 남해군 서면 노구리 산 786m\\n   - 전화번호: 055-860-3676', 'options': None}, {'role': 'user', 'content': '남해읍 갈만한곳'}, {'role': 'assistant', 'content': '경상남도 남해읍에서 갈만한 곳으로는 다음 장소들을 추천드립니다:\\n\\n1. **남해문화원**\\n   - 주소: 경상남도 남해군 남해읍 선소로 12\\n   - 전화번호: 055-864-6969\\n   - 관광지로 추천됩니다 [참조 1].\\n\\n2. **남해문화센터**\\n   - 주소: 경상남도 남해군 남해읍 선소로 12\\n   - 전화번호: 055-860-8621\\n   - 봄, 여름, 가을, 겨울에도 적합하며 자가용, 렌트, 친구, 가족, 연인과 함께 방문하기 좋습니다 [참조 2].\\n\\n3. **법륜사**\\n   - 주소: 경상남도 남해군 남해읍 망운로 10번길 45-1\\n   - 전화번호: 055-864-3243\\n   - 봄, 여름, 가을, 겨울 모두 방문할 수 있으며, 자가용, 렌트, 친구, 가족, 연인과 함께하기 좋은 장소입니다 [참조 3].'}]\n",
+      "3 [{'content': '경상남도 남해군 남해읍 선소로 12\\nY\\nhttp://www.ccnh.or.kr/html/main/main.php\\n34.8451138\\n127.8995432\\n남해문화원\\n055-864-6969\\n관광지', 'title': None, 'url': None, 'filepath': None, 'chunk_id': '0'}, {'content': '경상남도 남해군 남해읍 선소로 12\\nY\\n34.8451138\\n127.8995432\\n남해문화센터\\n055-860-8621\\n봄, 여름, 겨울, 자가용/렌트, 친구, 키즈, 연인, 우정女, 우정男, 단체\\n관광지', 'title': None, 'url': None, 'filepath': None, 'chunk_id': '0'}, {'content': '경상남도 남해군 남해읍 망운로10번길 45-1\\nY\\n34.8421872\\n127.89268\\n법흥사\\n055-864-3243\\n봄, 여름, 가을, 겨울, 자가용/렌트, 친구, 키즈, 연인, 우정女, 우정男, 효도, 나홀로\\n관광지\\n전통사찰 제104호', 'title': None, 'url': None, 'filepath': None, 'chunk_id': '0'}]\n",
+      "[{'content': '경상남도 남해군 남해읍 선소로 12\\nY\\nhttp://www.ccnh.or.kr/html/main/main.php\\n34.8451138\\n127.8995432\\n남해문화원\\n055-864-6969\\n관광지', 'title': None, 'url': None, 'filepath': None, 'chunk_id': '0'}, {'content': '경상남도 남해군 남해읍 선소로 12\\nY\\n34.8451138\\n127.8995432\\n남해문화센터\\n055-860-8621\\n봄, 여름, 겨울, 자가용/렌트, 친구, 키즈, 연인, 우정女, 우정男, 단체\\n관광지', 'title': None, 'url': None, 'filepath': None, 'chunk_id': '0'}, {'content': '경상남도 남해군 남해읍 망운로10번길 45-1\\nY\\n34.8421872\\n127.89268\\n법흥사\\n055-864-3243\\n봄, 여름, 가을, 겨울, 자가용/렌트, 친구, 키즈, 연인, 우정女, 우정男, 효도, 나홀로\\n관광지\\n전통사찰 제104호', 'title': None, 'url': None, 'filepath': None, 'chunk_id': '0'}]\n",
+      "tab!!!!!!\n",
+      "tab!!!!!!\n",
+      "tab!!!!!!\n",
+      "tab!!!!!!\n",
+      "tab!!!!!!\n",
+      "동면 갈만한곳\n",
+      "[{'role': 'user', 'metadata': {'title': None}, 'content': '서면 갈만한곳', 'options': None}, {'role': 'assistant', 'metadata': {'title': None}, 'content': '경상남도 남해군 서면에서 갈만한 곳은 다음과 같습니다:\\n\\n1. **스포츠파크**: 이곳은 남해군의 대표적인 축구 훈련장으로, 계절에 관계없이 사용 가능한 시설입니다. 전국 각지의 전지훈련객들이 많이 찾는 곳입니다 [참조 1].\\n   - 위치: 경상남도 남해군 서면 스포츠파크길 74\\n   - 전화번호: 055-860-8661\\n\\n2. **장항거리**: 이곳은 사계절 내내 가족 단위 관광객들이 즐기기 좋은 장소입니다 [참조 2].\\n   - 위치: 경상남도 남해군 서면 남서대로1517번길 31\\n\\n3. **망운산 철쭉군락지**: 5월에 철쭉이 만개하는 이곳은 많은 사람들이 찾는 명소입니다. 정상까지는 약 1시간 30분 정도 소요됩니다 [참조 3].\\n   - 위치: 경상���도 남해군 서면 노구리 산 786m\\n   - 전화번호: 055-860-3676', 'options': None}, {'role': 'user', 'metadata': {'title': None}, 'content': '남해읍 갈만한곳', 'options': None}, {'role': 'assistant', 'metadata': {'title': None}, 'content': '경상남도 남해읍에서 갈만한 곳으로는 다음 장소들을 추천드립니다:\\n\\n1. **남해문화원**\\n   - 주소: 경상남도 남해군 남해읍 선소로 12\\n   - 전화번호: 055-864-6969\\n   - 관광지로 추천됩니다 [참조 1].\\n\\n2. **남해문화센터**\\n   - 주소: 경상남도 남해군 남해읍 선소로 12\\n   - 전화번호: 055-860-8621\\n   - 봄, 여름, 가을, 겨울에도 적합하며 자가용, 렌트, 친구, 가족, 연인과 함께 방문하기 좋습니다 [참조 2].\\n\\n3. **법륜사**\\n   - 주소: 경상남도 남해군 남해읍 망운로 10번길 45-1\\n   - 전화번호: 055-864-3243\\n   - 봄, 여름, 가을, 겨울 모두 방문할 수 있으며, 자가용, 렌트, 친구, 가족, 연인과 함께하기 좋은 장소입니다 [참조 3].', 'options': None}, {'role': 'user', 'content': '동면 갈만한곳'}, {'role': 'assistant', 'content': '경상남도 남해군 동면에는 다양한 관광지가 있습니다. 다음은 동면과 가까운 관광지 목록입니다:\\n\\n1. **삼동면**: \\n   - 관광지명: 창선교\\n   - 주소: 경상남도 남해군 삼동면\\n   - 전화번호: 055-860-3311\\n   - 계절별로 방문 가능: 봄, 여름, 가을, 겨울\\n   - 주요 테마: 자가용/렌트, 친구, 우정여행, 연인, 나홀로 여행\\n   - [참조 1]\\n\\n2. **남해군 이동면**:\\n   - 관광지명: 미국마을\\n   - 주소: 경상남도 남해군 이동면 미국마을길\\n   - 전화번호: 1588-3415\\n   - 계절별로 방문 가능: 봄, 여름, 가을, 겨울\\n   - 주요 테마: 마을여행, 자가용/렌트, 친구, 연인, 우정여행, 키즈, 나홀로 여행, 단체\\n   - [참조 3]\\n\\n이 정보를 바탕으로 여행 계획을 세우시면 좋을 것 같습니다.'}]\n",
+      "3 [{'content': '경상남도 남해군 삼동면\\nY\\n34.830993\\n128.0010063\\n창선교\\n055-860-3311\\n봄, 여름, 가을, 겨울, 자가용/렌트, 친구, 우정女, 우정男, 나홀로\\n관광지', 'title': None, 'url': None, 'filepath': None, 'chunk_id': '0'}, {'content': '남해군 노량로183번길 27\\nY\\n34.9419198\\n127.875899\\n남해충렬사와 노량회타운\\n055-860-3311\\n관광명소, 봄, 여름, 가을, 겨울, 자가용/렌트, 친구, 연인, 우정女, 우정男, 효도, 나홀로, 단체\\n관광지', 'title': None, 'url': None, 'filepath': None, 'chunk_id': '0'}, {'content': '경상남도 남해군 이동면 미국마을길\\n미국형 전통 건축양식인 고급 민박형 팬션과 전원주거가 결합된 주택을 건립하여 특색 있는 관광인프라를 구축하고 있다.\\nY\\n34.7806685\\n127.9281169\\n미국마을\\n1588-3415\\n마을여행, 봄, 여름, 가을, 겨울, 자가용/렌트, 친구, 키즈, 연인, 우정女, 우정男, 효도, 단체\\n관광지', 'title': None, 'url': None, 'filepath': None, 'chunk_id': '0'}]\n",
+      "[{'content': '경상남도 남해군 삼동면\\nY\\n34.830993\\n128.0010063\\n창선교\\n055-860-3311\\n봄, 여름, 가을, 겨울, 자가용/렌트, 친구, 우정女, 우정男, 나홀로\\n관광지', 'title': None, 'url': None, 'filepath': None, 'chunk_id': '0'}, {'content': '남해군 노량로183번길 27\\nY\\n34.9419198\\n127.875899\\n남해충렬사와 노량회타운\\n055-860-3311\\n관광명소, 봄, 여름, 가을, 겨울, 자가용/렌트, 친구, 연인, 우정女, 우정男, 효도, 나홀로, 단체\\n관광지', 'title': None, 'url': None, 'filepath': None, 'chunk_id': '0'}, {'content': '경상남도 남해군 이동면 미국마을길\\n미국형 전통 건축양식인 고급 민박형 팬션과 전원주거가 결합된 주택을 건립하여 특색 있는 관광인프라를 구축하고 있다.\\nY\\n34.7806685\\n127.9281169\\n미국마을\\n1588-3415\\n마을여행, 봄, 여름, 가을, 겨울, 자가용/렌트, 친구, 키즈, 연인, 우정女, 우정男, 효도, 단체\\n관광지', 'title': None, 'url': None, 'filepath': None, 'chunk_id': '0'}]\n",
+      "tab!!!!!!\n",
+      "tab!!!!!!\n",
+      "tab!!!!!!\n"
+     ]
+    }
+   ],
+   "source": [
+    "import gradio as gr\n",
+    "import requests\n",
+    "import re\n",
+    "\n",
+    "# endpoint : \n",
+    "deployment_name = \"fimtrus-gpt-4o-ncus\"\n",
+    "endpoint = \"https://fimtrus-openai-ncus.openai.azure.com/openai/deployments/{}/chat/completions\".format(deployment_name)\n",
+    "api_key = \"FP7k76c0BGmz4MVot1LVqdtqcmQaKBeerYdFyXzW4NXN0940rRfEJQQJ99BCACHrzpqXJ3w3AAABACOG8189\"\n",
+    "\n",
+    "ai_search_endpoint = \"https://fimtrus-ai-search3.search.windows.net\"\n",
+    "ai_search_key = \"lw8TYxNHT14hpM5oJQhCL3iOxR4PR494dV4RLDaiwzAzSeBecA5i\"\n",
+    "ai_search_index_name = \"travel-index-microsoft2\"\n",
+    "ai_search_semantic = \"travel-semantic\"\n",
+    "\n",
+    "\n",
+    "def request_gpt(prompt):\n",
+    "  query_params = {\n",
+    "    \"api-version\": \"2025-02-01-preview\"\n",
+    "  }\n",
+    "  headers = {\n",
+    "      \"Content-Type\": \"application/json\",\n",
+    "      \"api-key\": api_key\n",
+    "  }\n",
+    "  \n",
+    "  body = {\n",
+    "    \"data_sources\": [\n",
+    "      {\n",
+    "        \"type\": \"azure_search\",\n",
+    "        \"parameters\": {\n",
+    "          \"endpoint\": ai_search_endpoint,\n",
+    "          \"index_name\": ai_search_index_name,\n",
+    "          \"semantic_configuration\": ai_search_semantic,\n",
+    "          \"query_type\": \"semantic\",\n",
+    "          \"fields_mapping\": {},\n",
+    "          \"in_scope\": True,\n",
+    "          \"filter\": None,\n",
+    "          \"strictness\": 3,\n",
+    "          \"top_n_documents\": 3,\n",
+    "          \"authentication\": {\n",
+    "            \"type\": \"api_key\",\n",
+    "            \"key\": ai_search_key\n",
+    "          },\n",
+    "          \"key\": ai_search_key\n",
+    "        }\n",
+    "      }\n",
+    "    ],\n",
+    "    \"messages\": [\n",
+    "      {\n",
+    "        \"role\": \"system\",\n",
+    "        \"content\": \"사용자가 정보를 찾는 데 도움이 되는 AI 도우미입니다.\"\n",
+    "      },\n",
+    "      {\n",
+    "        \"role\": \"user\",\n",
+    "        \"content\": prompt\n",
+    "      }\n",
+    "    ],\n",
+    "    \"temperature\": 0.7,\n",
+    "    \"top_p\": 0.95,\n",
+    "    \"max_tokens\": 800,\n",
+    "    \"stop\": None,\n",
+    "    \"stream\": False,\n",
+    "    \"frequency_penalty\": 0,\n",
+    "    \"presence_penalty\": 0\n",
+    "  }\n",
+    "\n",
+    "  response = requests.post(endpoint, params=query_params, headers=headers, json=body)\n",
+    "  \n",
+    "  if response.status_code == 200:\n",
+    "    response_json = response.json()\n",
+    "    message = response_json['choices'][0]['message']\n",
+    "    content = message['content']\n",
+    "    \n",
+    "    content = re.sub(r'\\[doc(\\d+)\\]', r'[참조 \\1]', content)\n",
+    "    \n",
+    "    if message['context']:\n",
+    "      citation_list = message['context']['citations']\n",
+    "    else:\n",
+    "      citation_list = list()\n",
+    "    return content, citation_list\n",
+    "  else:\n",
+    "    return \"\", list()\n",
+    "\n",
+    "#############################################################################\n",
+    "\n",
+    "\n",
+    "with gr.Blocks() as demo:\n",
+    "    \n",
+    "    citation_state = gr.State([])\n",
+    "        \n",
+    "    def click_send(prompt, histories):\n",
+    "        print(prompt)\n",
+    "        content, citation_list = request_gpt(prompt=prompt)\n",
+    "        message_list = [{\"role\": \"user\", \"content\": prompt}, {\"role\": \"assistant\", \"content\": content}]\n",
+    "        histories.extend(message_list)\n",
+    "        \n",
+    "        print(histories)\n",
+    "        print(len(citation_list), citation_list)\n",
+    "        return histories, citation_list, \"\"\n",
+    "      \n",
+    "    def select_tab(citation):\n",
+    "      print(\"tab!!!!!!\")\n",
+    "      return gr.Textbox(label=\"\", value=citation, lines=10, max_lines=10, visible=True)\n",
+    "    \n",
+    "    gr.Markdown(\"# 나의 GPT 월드\")\n",
+    "    \n",
+    "    with gr.Row():\n",
+    "      chatbot = gr.Chatbot(label=\"나의 GPT\", type=\"messages\", scale=3)\n",
+    "    \n",
+    "      with gr.Column(scale=1):  \n",
+    "        @gr.render(inputs=[citation_state])\n",
+    "        def render_citations(citations):\n",
+    "          print(citations)\n",
+    "          for index in range(len(citations)):\n",
+    "            content = citations[index]['content']\n",
+    "            key = \"참조{}\".format(index + 1)\n",
+    "            if index == 0:\n",
+    "              gr.Tab(\"\", id=-1, visible=False)\n",
+    "            with gr.Tab(key) as tab:\n",
+    "              citation_textbox = gr.Textbox(label=\"\", value=content, lines=10, max_lines=10, visible=False)\n",
+    "            tab.select(fn=select_tab, inputs=[citation_textbox], outputs=[citation_textbox])\n",
+    "        \n",
+    "    with gr.Row():\n",
+    "        prompt_textbox = gr.Textbox(label=\"프롬프트\", placeholder=\"프롬프트를 입력하세요.\", scale=6)\n",
+    "        send_button = gr.Button(\"전송\", scale=1)\n",
+    "        \n",
+    "    send_button.click(click_send, inputs=[prompt_textbox, chatbot], outputs=[chatbot, citation_state, prompt_textbox])\n",
+    "    prompt_textbox.submit(click_send, inputs=[prompt_textbox, chatbot], outputs=[chatbot, citation_state, prompt_textbox])\n",
+    "    \n",
+    "    \n",
+    "demo.launch()\n",
+    "\n"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": []
+  }
+ ],
+ "metadata": {
+  "kernelspec": {
+   "display_name": "openai",
+   "language": "python",
+   "name": "python3"
+  },
+  "language_info": {
+   "codemirror_mode": {
+    "name": "ipython",
+    "version": 3
+   },
+   "file_extension": ".py",
+   "mimetype": "text/x-python",
+   "name": "python",
+   "nbconvert_exporter": "python",
+   "pygments_lexer": "ipython3",
+   "version": "3.11.9"
+  }
+ },
+ "nbformat": 4,
+ "nbformat_minor": 2
+}