Một nhóm nghiên cứu tại Trường Bách khoa Liên bang Lausanne (EPFL, Thụy Sĩ) đã phát triển một khuôn khổ huấn luyện mô hình ngôn ngữ lớn (LLM) để tạo ra hệ thống AI có khả năng tìm "công thức" tối ưu cho thí nghiệm khoa học. Phương pháp GOLLuM, được công bố trên tạp chí Nature Machine Intelligence, có thể đạt hiệu quả tương đương các phương pháp truyền thống nhưng cần ít hơn trên 40% số thí nghiệm.

Các công cụ tính toán hiện đại cho phép nhà khoa học khảo sát số lượng khổng lồ phân tử, vật liệu và phản ứng hóa học khả thi, nhưng thử nghiệm mọi tổ hợp trong phòng thí nghiệm vừa chậm vừa tốn kém. Tối ưu hóa Bayes là phương pháp học từ kết quả trước, dự đoán lựa chọn triển vọng và ước lượng độ bất định của dự đoán, từ đó tập trung các thí nghiệm tiếp theo vào những phương án hữu ích nhất. Tuy nhiên, mô hình tối ưu cho một lĩnh vực thường khó chuyển sang lĩnh vực khác, khiến mỗi bài toán mới gần như phải bắt đầu lại từ đầu.

Bojana Ranković và Philippe Schwaller tại Phòng thí nghiệm Trí tuệ Hóa học Nhân tạo của EPFL đã phát triển phương pháp kết hợp LLM với quá trình Gauss - một mô hình xác suất thường dùng trong tối ưu hóa Bayes, được ví như "bộ phát hiện sự nghi ngờ". Phương pháp có tên GOLLuM (Gaussian Process Optimized LLMs) cho phép tạo ra bộ tối ưu hóa tiết kiệm mẫu thử và có thể diễn giải được đối với con người trong khám phá khoa học.

Thay vì yêu cầu LLM trực tiếp lựa chọn thí nghiệm, GOLLuM huấn luyện mô hình bằng cách sử dụng điểm số về độ bất định và hiệu năng của từng phương án do quá trình Gauss cung cấp. Khi học từ các thí nghiệm trước, LLM điều chỉnh cách tổ chức không gian tìm kiếm - tập hợp mọi lựa chọn khả thi. Những điều kiện tạo ra kết quả tương tự được đặt gần nhau, còn các điều kiện cho kết quả khác biệt được đẩy xa nhau.

Nhóm nghiên cứu đánh giá GOLLuM trên 23 bài toán chuẩn thuộc tổng hợp hữu cơ, hóa học phân tích và quá trình, vật liệu và xúc tác, cùng tối ưu hóa tính chất phân tử. Trong 50 thí nghiệm, 36,3% số điều kiện do GOLLuM thử nghiệm nằm trong nhóm 5% kết quả tốt nhất, so với 29,7% của phương pháp tối ưu hóa Bayes sử dụng bộ mô tả do chuyên gia thiết kế. Tính trung bình, GOLLuM đứng đầu về hiệu năng và đạt kết quả tương đương phương pháp truyền thống với số thí nghiệm ít hơn trên 40%.

Theo nhóm nghiên cứu, điểm cốt lõi là biến sự bất định từ một khiếm khuyết thành tín hiệu giàu thông tin để huấn luyện mô hình ngôn ngữ. Cách tiếp cận này kết hợp khả năng biểu diễn tri thức khoa học rộng của LLM với mô hình xác suất có thể định lượng độ bất định, nhờ đó giúp việc tối ưu hóa thí nghiệm trở nên nhanh và đáng tin cậy hơn. Việc mô tả quy trình bằng ngôn ngữ tự nhiên cũng có thể giảm thời gian xây dựng bộ mô tả chuyên biệt cho từng bài toán, hỗ trợ hướng tới phòng thí nghiệm tự vận hành và tăng cường hợp tác giữa con người với AI trong nghiên cứu thực nghiệm.

NPA (Theo École Polytechnique Fédérale de Lausanne)