Microsoft CEO: Kỷ nguyên siêu trí tuệ cần xây dựng kiến trúc "có thể kiểm soát", không thể thuê ngoài trách nhiệm cho AI
Odaily đưa tin, CEO Microsoft Satya Nadella đăng bài viết dài cho biết, cùng với sự phát triển của hệ thống siêu trí tuệ (Super Intelligence), ngành cần nhìn nhận lại kiến trúc tin cậy AI, không thể đơn giản dựa vào cam kết của bên cung cấp mô hình, cũng không thể thuê ngoài trách nhiệm do hành vi AI mang lại.
Nadella cho biết, trong vài thập kỷ qua khi hệ thống phần mềm truyền thống được triển khai vào các ngành, nhà phát triển thường có thể truy vết đường dẫn mã cụ thể tương ứng với hành vi. Nhưng năng lực của các mô hình AI tiên tiến ngày nay đã vượt qua hệ thống phần mềm truyền thống, lại không thể quy rõ ràng đầu ra của mô hình về dữ liệu huấn luyện cụ thể hoặc cấu hình trọng số mô hình. Doanh nghiệp đang kết nối hệ thống AI có khả năng hành động tự chủ vào dữ liệu nhạy cảm, và trao cho chúng quyền thực thi các nhiệm vụ quan trọng, vì vậy cần xây dựng hệ thống có khả năng quan sát, khả năng kiểm thử và khả năng kiểm soát, tách biệt "cung cấp trí tuệ" và "kiểm soát quyền hạn".
Nadella đề xuất, nên áp dụng phương thức kỹ thuật để quản trị siêu trí tuệ, thông qua thiết kế hệ thống mang tính xác định, kiểm soát thủ công và quy trình vận hành để ràng buộc mô hình không xác định, và coi hệ thống AI như "rủi ro nội bộ" tiềm tàng để quản lý, bao gồm hạn chế quyền hạn, ghi lại hành vi, thiết lập ranh giới cách ly, v.v. Ông cũng đề xuất hệ thống siêu trí tuệ nên tuân theo các nguyên tắc như hợp tác đa mô hình, quan sát toàn trình, xác minh liên tục, kiểm soát độc lập, kiểm toán độc lập, cách ly rủi ro và công bố sự cố. Trong đó, ông nhấn mạnh tính minh bạch của chuỗi tư duy mô hình (CoT) là yêu cầu cơ bản, nhưng chỉ dựa vào tính minh bạch CoT là chưa đủ, vì bản thân đầu ra của mô hình vẫn có thể thiếu khả năng giải thích đáng tin cậy.
Nadella cuối cùng cho biết, hệ thống siêu trí tuệ đáng tin cậy nhất trong tương lai, không phải là "mô hình đáng tin cậy nhất", mà là "hệ thống vẫn có thể vận hành an toàn ngay cả khi không hoàn toàn tin tưởng mô hình".
