Ada sử dụng GPT-4 để cung cấp tiêu chuẩn dịch vụ khách hàng mới

Bằng cách hiểu được tỷ lệ phân giải, Ada đã có một ngôi sao chỉ đường cho sản phẩm của họ. Ngoài việc sử dụng API của OpenAI để đánh giá, họ quyết định hợp tác với OpenAI để xây dựng thế hệ mới của AI Agent. 

Ada đã sử dụng các mô hình của OpenAI trước đây, chủ yếu là để tạo dữ liệu đào tạo cho các mô hình NLP của họ. Khi đưa API của OpenAI vào thử nghiệm cho các trường hợp sử dụng mới của họ, Ada đã lưu ý một số điểm khác biệt: 

+ Chất lượng suy luận: Ada đã xây dựng một khuôn khổ thử nghiệm tổng hợp mô phỏng hàng trăm nghìn khách hàng cuối giao tiếp với hệ thống của họ, do đó họ nhấn mạnh các mô hình thử nghiệm về khả năng mở rộng và chất lượng. "Chúng tôi đánh giá mọi mô hình chính một cách thường xuyên, trong vòng vài tuần sau khi chúng được phát hành và cho đến nay chưa có mô hình nào vượt qua được OpenAI trong bộ đánh giá của chúng tôi", Gozzo cho biết. 

+ Độ trễ: Để đảm bảo hiệu suất tốt nhất cho các trường hợp sử dụng giọng nói của Ada, các mô hình độ trễ thấp là chìa khóa. "Đối với lý luận thời gian thực, chúng tôi đã thấy một bước nhảy vọt lớn về độ trễ và chất lượng tổng thể với GPT-4o", + Gozzo cho biết.

+ Tinh chỉnh: Ada sử dụng API tinh chỉnh của OpenAI để cung cấp điểm tin cậy về mức độ ảo giác trong một phản ứng nhất định và sử dụng điểm đó trong phần còn lại của chuỗi công cụ để giảm thiểu số lượng ảo giác trong hệ thống. "Chúng tôi cũng rất hào hứng về khả năng sử dụng tinh chỉnh theo thời gian để cải thiện hơn nữa khả năng lý luận của hệ thống và tiềm năng của kỹ thuật này cho phép các mô hình nhỏ hơn, ít tốn kém hơn bắt chước hiệu suất của các mô hình biên giới", Gozzo cho biết.

Ngày nay, AI Agent của Ada sử dụng cấu hình đa tác nhân, với một tác nhân lập kế hoạch trung tâm và một tập hợp các tác nhân phụ, tất cả đều được hỗ trợ bởi API của OpenAI. "Bất cứ khi nào bạn giao tiếp với một doanh nghiệp đang sử dụng Ada, câu hỏi của bạn sẽ được đưa qua nhiều lượt mô hình của OpenAI, hiểu nó, suy ngẫm về nó, sử dụng các công cụ và đưa vào kiến ​​thức cho đến khi câu trả lời được tạo ra", Gozzo giải thích. 

Phiên bản trước của sản phẩm Ada có tỷ lệ ngăn chặn 70%, nhưng tỷ lệ giải quyết là 30%. Trong số những khách hàng mà Ada đã đưa đến hệ thống mới, họ có kết quả ngăn chặn tương tự, nhưng thường thấy tỷ lệ giải quyết lên đến 60%, với những khách hàng có hiệu suất cao nhất là hơn 80%. 

"Từ công nghệ này sang công nghệ khác, chúng tôi đã tăng gấp đôi số lượng cuộc trò chuyện mà chúng tôi có thể tự động giải quyết với trải nghiệm tuyệt vời", Gozzo cho biết. Đối với khách hàng của Ada, số liệu này có tác động hạ nguồn lớn đến ROI, bao gồm tiết kiệm tương đương toàn thời gian (FTE), sự hài lòng của khách hàng, duy trì và đăng ký mới.