LangChain là một nền tảng phát triển ứng dụng trí tuệ nhân tạo (AI) mã nguồn mở được xây dựng bằng Python, cung cấp các module và công cụ cần thiết để xây dựng các ứng dụng AI dựa trên các mô hình lớn. Với LangChain, nhà phát triển dễ dàng tích hợp với các mô hình ngôn ngữ lớn (LLMs) để hoàn thành các nhiệm vụ như tạo văn bản, trả lời câu hỏi, dịch thuật và trò chuyện. LangChain giảm thiểu rào cản trong việc phát triển ứng dụng AI, giúp bất kỳ ai cũng có thể xây dựng các ứng dụng sáng tạo dựa trên LLMs của riêng mình.

Các tính năng của LangChain:

  • LLM và Prompts: LangChain trừu tượng hóa API cho tất cả các mô hình lớn, thống nhất quyền truy cập vào các mô hình lớn, và cung cấp cơ chế quản lý mẫu prompt.
  • Chains: LangChain đóng gói một số kịch bản phổ biến thành các module sẵn sàng sử dụng, như hệ thống trả lời câu hỏi dựa trên ngữ cảnh, tạo văn bản tự nhiên của các truy vấn SQL, v.v. Những nhiệm vụ này được thực hiện từng bước như một luồng công việc, do đó được gọi là "chuỗi."
  • LCEL: Ngôn ngữ biểu diễn LangChain (LCEL) là tính năng lõi của phiên bản mới của LangChain, được sử dụng để giải quyết các vấn đề điều phối công việc. Với các biểu diễn LCEL, chúng ta có thể linh hoạt tùy chỉnh luồng xử lý nhiệm vụ AI, còn được gọi là "chuỗi" tùy chỉnh linh hoạt.
  • Retrieval Augmented Generation (RAG): Vì các mô hình lớn (LLMs) không hiểu thông tin mới và không thể trả lời câu hỏi mới, chúng ta nhập thông tin mới vào LLM để nâng cao chất lượng nội dung được tạo ra. Mô hình này được gọi là "Retrieval Augmented Generation" (RAG).
  • Đại lý: Đây là một mẫu thiết kế cho các ứng dụng dựa trên các mô hình lớn (LLMs), tận dụng khả năng hiểu và suy luận ngôn ngữ tự nhiên của LLMs (đóng vai trò như bộ não), để tự động gọi các hệ thống và thiết bị bên ngoài cùng nhau để hoàn thành các nhiệm vụ dựa trên yêu cầu của người dùng. Ví dụ, người dùng nhập "nghỉ phép ngày mai," và mô hình lớn (LLM) tự động gọi hệ thống nghỉ để khởi động đơn xin nghỉ phép.
  • Bộ nhớ mô hình: Điều này cho phép mô hình lớn (LLM) nhớ nội dung trò chuyện trước đó, được gọi là bộ nhớ mô hình.