Anthropic nói sắp đạt đến 'AI tự cải tiến'

Đầu tuần này, Anthropic công bố bản sửa đổi hồ sơ đăng ký phát hành cổ phiếu lần đầu ra công chúng (IPO). Trong khi phần lớn tập trung vào số liệu tài chính cập nhật với doanh thu và chi phí tăng vọt, nhà phát triển Claude cũng hé lộ thông tin đáng chú ý trong phần chữ nhỏ. Đó là lời cảnh báo họ đang tiến sát ngưỡng tạo ra mô hình có thể tự cải tiến đệ quy (RSI).

Theo Tech Crunch, RSI là khả năng AI tự cải tiến dần qua các vòng phát triển liên tiếp mà không cần con người can thiệp. Với người bi quan, RSI báo hiệu cho thảm họa không thể đảo ngược, khi AI phát triển mạnh đến mức vượt tầm kiểm soát của con người, phớt lờ những thiệt hại mà nó gây ra trong quá trình hướng tới mục tiêu. Ngược lại, người lạc quan cho rằng RSI thể hiện tiềm năng to lớn, mang đến năng suất vượt xa tưởng tượng, thúc đẩy khám phá khoa học và nhiều thành tựu khác.

Trong bản sửa đổi hồ sơ IPO, Anthropic bổ sung thông tin mới vào phần "Yếu tố rủi ro", cho biết đã dùng AI để phát triển những mô hình mới có bước nhảy vọt về năng lực mà khi đó họ không nhận ra, đồng thời tuyên bố công ty có thể sớm đạt đến RSI theo định nghĩa riêng.

"Ước tính nội bộ và dự đoán của chúng tôi về các mô hình tương lai, không phải mô hình hiện tại, cho thấy chúng tôi có thể sắp đạt tới định nghĩa về "sự tiến bộ được tăng tốc đáng kể nhờ AI" nêu trong Chính sách Mở rộng Có trách nhiệm", công ty viết.

Tuy nhiên, Anthropic cũng cho biết chưa mô hình nào của họ vượt ngưỡng RSI, đồng thời cam kết duy trì sự tham gia của con người trong quá trình nghiên cứu và phát triển trong tương lai gần. "Chúng tôi đang cân nhắc cập nhật Chính sách Mở rộng Có trách nhiệm nhằm đảm bảo con người vẫn kiểm soát quá trình phát triển mô hình tiên tiến tại Anthropic", hồ sơ sửa đổi nêu.

Logo Anthropic hiển thị trên màn hình smartphone. Ảnh: Bảo Lâm

Dù là một trong những phòng thí nghiệm AI tiên tiến hàng đầu thế giới, Anthropic tỏ ra khá thận trọng. Trong bài đăng trên blog hồi tháng 6, công ty kêu gọi các phòng thí nghiệm cân nhắc thiết lập một cơ chế phối hợp để làm chậm hoặc tạm dừng quá trình phát triển nếu AI bắt đầu tự cải tiến với tốc độ vượt sức quản lý rủi ro của xã hội. Công ty nhận định, AI với khả năng tự cải tiến là bước phát triển lớn trong lịch sử công nghệ, nhưng cũng làm tăng nguy cơ con người mất quyền kiểm soát trí tuệ nhân tạo.

Theo WSJ, các lãnh đạo của Anthropic, bao gồm CEO Dario Amodei, từng nhiều lần cảnh báo về rủi ro tiềm ẩn từ AI và đề xuất sự hợp tác rộng rãi của xã hội để giải quyết. Ông lo ngại AI có thể làm trầm trọng thêm tình trạng bất bình đẳng và loại bỏ tới một nửa số việc làm văn phòng cấp thấp.

Hồi tháng 9, Amodei cảnh báo AI ngày càng có khả năng tự cải thiện và có thể nhanh chóng vượt ngoài tầm khống chế của con người. Ông đề cập những vụ tác nhân AI thoát môi trường cô lập và tấn công nền tảng bên ngoài, điển hình là vụ Hugging Face tháng 7, nói đây là lý do chính để kìm hãm tốc độ phát triển các mô hình tiên tiến.

Jack Clark, nhà đồng sáng lập Anthropic, cũng thường xuyên lên tiếng về mối nguy hiểm tiềm ẩn của AI và hậu quả khi các hệ thống AI đạt đến ngưỡng tự cải tiến, cho rằng điều này sẽ làm thay đổi thế giới.

"Loại công nghệ đó chưa từng tồn tại trước đây, nhưng tôi tin nó có thể xuất hiện trong vòng hai năm tới, thậm chí sớm hơn", ông nói trong một buổi diễn thuyết ở London tháng 5.

Thu Thảo tổng hợp