Cách gọi hàm với mô hình trò chuyện

messages.append({"role": "user", "content": "I'm in Glasgow, Scotland."})
chat_response = chat_completion_request( messages, tools=tools
)
assistant_message = chat_response.choices[0].message
messages.append(assistant_message)
assistant_message

messages = []
messages.append({"role": "system", "content": "Don't make assumptions about what values to plug into functions. Ask for clarification if a user request is ambiguous."})
messages.append({"role": "user", "content": "what is the weather going to be like in Glasgow, Scotland over the next x days"})
chat_response = chat_completion_request( messages, tools=tools
)
assistant_message = chat_response.choices[0].message
messages.append(assistant_message)
assistant_message

messages.append({"role": "user", "content": "5 days"})
chat_response = chat_completion_request( messages, tools=tools
)
chat_response.choices[0]

# in this cell we force the model to use get_n_day_weather_forecast
messages = []
messages.append({"role": "system", "content": "Don't make assumptions about what values to plug into functions. Ask for clarification if a user request is ambiguous."})
messages.append({"role": "user", "content": "Give me a weather report for Toronto, Canada."})
chat_response = chat_completion_request( messages, tools=tools, tool_choice={"type": "function", "function": {"name": "get_n_day_weather_forecast"}}
)
chat_response.choices[0].message

messages = []
messages.append({"role": "system", "content": "Don't make assumptions about what values to plug into functions. Ask for clarification if a user request is ambiguous."})
messages.append({"role": "user", "content": "Give me the current weather (use Celcius) for Toronto, Canada."})
chat_response = chat_completion_request( messages, tools=tools, tool_choice="none"
)
chat_response.choices[0].message

ChatCompletionMessage(content="Chắc chắn rồi, tôi sẽ lấy thông tin thời tiết hiện tại ở Toronto, Canada theo độ C.", role='assistant', function_call=None, tool_calls=None)

Gọi hàm song song

Các mô hình mới hơn như gpt-4o hoặc gpt-3.5-turbo có thể gọi nhiều chức năng trong một lượt.

messages = []
messages.append({"role": "system", "content": "Don't make assumptions about what values to plug into functions. Ask for clarification if a user request is ambiguous."})
messages.append({"role": "user", "content": "what is the weather going to be like in San Francisco and Glasgow over the next 4 days"})
chat_response = chat_completion_request( messages, tools=tools, model=GPT_MODEL
)
assistant_message = chat_response.choices[0].message.tool_calls
assistant_message

[ChatCompletionMessageToolCall(id='call_ObhLiJwaHwc3U1KyB4Pdpx8y', function=Function(arguments='{"location": "San Francisco, CA", "format": "fahrenheit", "num_days": 4}', name='get_n_day_weather_forecast'), type='function'), ChatCompletionMessageToolCall(id='call_5YRgeZ0MGBMFKE3hZiLouwg7', function=Function(arguments='{"location": "Glasgow, SCT", "format": "celsius", "num_days": 4}', name='get_n_day_weather_forecast'), type='function')]

Cách gọi hàm với các đối số được tạo bởi mô hình

Trong ví dụ tiếp theo, chúng tôi sẽ trình bày cách thực hiện các hàm có đầu vào được tạo bởi mô hình và sử dụng điều này để triển khai một tác nhân có thể trả lời các câu hỏi cho chúng tôi về cơ sở dữ liệu. Để đơn giản, chúng tôi sẽ sử dụng cơ sở dữ liệu mẫu Chinook .

Lưu ý: Việc tạo SQL có thể có rủi ro cao trong môi trường sản xuất vì các mô hình không hoàn toàn đáng tin cậy trong việc tạo SQL chính xác.

Chỉ định một hàm để thực hiện các truy vấn SQL

Trước tiên, hãy định nghĩa một số hàm tiện ích hữu ích để trích xuất dữ liệu từ cơ sở dữ liệu SQLite.

import sqlite3
conn = sqlite3.connect("data/Chinook.db")
print("Opened database successfully")

Đã mở cơ sở dữ liệu thành công

def get_table_names(conn): """Return a list of table names.""" table_names = [] tables = conn.execute("SELECT name FROM sqlite_master WHERE type='table';") for table in tables.fetchall(): table_names.append(table[0]) return table_names
def get_column_names(conn, table_name): """Return a list of column names.""" column_names = [] columns = conn.execute(f"PRAGMA table_info('{table_name}');").fetchall() for col in columns: column_names.append(col[1]) return column_names
def get_database_info(conn): """Return a list of dicts containing the table name and columns for each table in the database.""" table_dicts = [] for table_name in get_table_names(conn): columns_names = get_column_names(conn, table_name) table_dicts.append({"table_name": table_name, "column_names": columns_names}) return table_dicts

Bây giờ có thể sử dụng các hàm tiện ích này để trích xuất biểu diễn của lược đồ cơ sở dữ liệu.

database_schema_dict = get_database_info(conn)
database_schema_string = "\n".join( [ f"Table: {table['table_name']}\nColumns: {', '.join(table['column_names'])}" for table in database_schema_dict ]
)

Như trước đây, chúng ta sẽ định nghĩa một đặc tả hàm cho hàm mà chúng ta muốn API tạo đối số. Lưu ý rằng chúng ta đang chèn lược đồ cơ sở dữ liệu vào đặc tả hàm. Điều này sẽ quan trọng để mô hình biết.

tools = [ { "type": "function", "function": { "name": "ask_database", "description": "Use this function to answer user questions about music. Input should be a fully formed SQL query.", "parameters": { "type": "object", "properties": { "query": { "type": "string", "description": f""" SQL query extracting info to answer the user's question. SQL should be written using this database schema: {database_schema_string} The query should be returned in plain text, not in JSON. """, } }, "required": ["query"], }, } }
]

Thực hiện các truy vấn SQL

Bây giờ chúng ta hãy triển khai hàm thực sự sẽ thực hiện các truy vấn trên cơ sở dữ liệu.

def ask_database(conn, query): """Function to query SQLite database with a provided SQL query.""" try: results = str(conn.execute(query).fetchall()) except Exception as e: results = f"query failed with error: {e}" return results

Các bước để gọi hàm bằng API Hoàn thành trò chuyện:

Bước 1 : Nhắc mô hình với nội dung có thể dẫn đến việc mô hình chọn một công cụ để sử dụng. Mô tả về các công cụ như tên hàm và chữ ký được xác định trong danh sách 'Công cụ' và được chuyển đến mô hình trong lệnh gọi API. Nếu được chọn, tên hàm và các tham số sẽ được bao gồm trong phản hồi.

Bước 2 : Kiểm tra theo chương trình nếu mô hình muốn gọi một hàm. Nếu đúng, tiến hành đến bước 3.
Bước 3 : Trích xuất tên hàm và các tham số từ phản hồi, gọi hàm có tham số. Thêm kết quả vào tin nhắn.
Bước 4 : Gọi API hoàn thành trò chuyện với danh sách tin nhắn để nhận phản hồi.

# Step #1: Prompt with content that may result in function call. In this case the model can identify the information requested by the user is potentially available in the database schema passed to the model in Tools description.
messages = [{ "role":"user", "content": "What is the name of the album with the most tracks?"
}]
response = client.chat.completions.create( model='gpt-4o', messages=messages, tools= tools, tool_choice="auto"
)
# Append the message to messages list
response_message = response.choices[0].message
messages.append(response_message)
print(response_message)

ChatCompletionMessage(content=None, role='assistant', function_call=None, tool_calls=[ChatCompletionMessageToolCall(id='call_wDN8uLjq2ofuU6rVx1k8Gw0e', function=Function(arguments='{"query":"SELECT Album.Title, COUNT(Track.TrackId) AS TrackCount FROM Album INNER JOIN Track ON Album.AlbumId = Track.AlbumId GROUP BY Album.Title ORDER BY TrackCount DESC LIMIT 1;"}', name='ask_database'), type='function')])

# Step 2: determine if the response from the model includes a tool call.
tool_calls = response_message.tool_calls
if tool_calls: # If true the model will return the name of the tool / function to call and the argument(s) tool_call_id = tool_calls[0].id tool_function_name = tool_calls[0].function.name tool_query_string = json.loads(tool_calls[0].function.arguments)['query'] # Step 3: Call the function and retrieve results. Append the results to the messages list. if tool_function_name == 'ask_database': results = ask_database(conn, tool_query_string) messages.append({ "role":"tool", "tool_call_id":tool_call_id, "name": tool_function_name, "content":results }) # Step 4: Invoke the chat completions API with the function response appended to the messages list # Note that messages with role 'tool' must be a response to a preceding message with 'tool_calls' model_response_with_function_call = client.chat.completions.create( model="gpt-4o", messages=messages, ) # get a new response from the model where it can see the function response print(model_response_with_function_call.choices[0].message.content) else: print(f"Error: function {tool_function_name} does not exist")
else: # Model did not identify a function to call, result can be returned to the user print(response_message.content) 

Album có nhiều bài hát nhất có tựa đề "Greatest Hits", bao gồm 57 bài hát.

Các bước tiếp theo

Xem sổ tay khác của chúng tôi hướng dẫn cách sử dụng API Hoàn thành trò chuyện và các hàm để truy xuất kiến ​​thức nhằm tương tác theo kiểu đàm thoại với cơ sở kiến ​​thức.

Xem thêm: mua tài khoản ChatGPT Plus để viết code không còn là công việc khó khăn