黄仁勋向左，阿莫迪往右

Tác giả gốc: Tô Dương

Biên tập gốc: Từ Thanh Dương

Nguồn gốc: Tencent Technology

AI tiên phong tiếp tục tăng tốc hay đạp phanh, đã trở thành chủ đề gây tranh cãi nhất ở Thung lũng Silicon hiện nay.

Xoay quanh tranh cãi này, các ông lớn Thung lũng Silicon bắt đầu chọn phe, Amodei, Altman, Musk và Hassabis hợp thành "phe tạm dừng". Jensen Huang thì kiên định là "phe tăng tốc", chỉ trích "thuyết ngày tận thế AI" thiếu cơ sở khoa học; Yann LeCun càng không ngừng chế giễu Amodei, ông nói: "(Amodei) hồi còn ở OpenAI đã cho rằng GPT-2 nguy hiểm đến mức không nên mã nguồn mở, tôi đã cười nhạo ông ta lúc đó, giờ mọi người có thể tiếp tục."

So sánh ra, Zuckerberg và Nadella cùng những người khác thể hiện tương đối trung lập.

Các ông lớn mỗi người chọn một phe, có nghĩa là Thung lũng Silicon chưa hình thành đồng thuận về việc tạm dừng mô hình tiên phong, điều này bắt nguồn từ sự khác biệt về vị trí sinh thái của mỗi bên trong chuỗi ngành AI. Những người dẫn đầu ở tầng mô hình có thể vì những lý do khác nhau mà kêu gọi tạm dừng, nhưng muốn khiến Oracle, AWS - những công ty nắm trong tay đơn hàng tính toán trị giá hàng trăm tỷ USD - cũng như Nvidia đang đứng trên đỉnh chuỗi thức ăn dừng lại, thì không thể nào nhận được phản hồi tích cực.

Ở Washington, tiếng nói "tạm dừng" không những không nhận được ủng hộ, mà còn dấy lên một loạt nghi ngờ.

"Điều này có chút mùi vị của con ngựa gỗ thành Troy (It feels a little bit to me like a bit of a Trojan horse)." JD Vance nói trong một cuộc phỏng vấn, câu nói này thực ra phản ánh quan điểm thực sự của Washington - khi các doanh nghiệp làm ra con ngựa gỗ liên tục yêu cầu làm cánh cửa hẹp lại, thì nên xem xét xem cánh cửa này rốt cuộc phù hợp với những doanh nghiệp nào.

Tạm dừng, cảnh báo và một lá đơn từ chức

Ngòi nổ của cuộc tranh luận này là việc một nhà nghiên cứu của Anthropic, Jacob Coxon, từ chức.

Trước đó anh đã làm nghiên cứu tiền huấn luyện ba năm tại OpenAI và Anthropic, trực tiếp tham gia huấn luyện các mô hình tiên phong nhất. Trong bài viết dài trên X, anh gần như không khách sáo: "Cả hai công ty đều không hành xử có trách nhiệm. Họ đang lao thẳng về phía siêu trí tuệ có thể tự cải thiện, đặt cược mạng sống của chúng ta."

Anh nói thẳng rằng những người bên trong phòng thí nghiệm thực sự tin AI có thể giết chết toàn bộ loài người trong vòng mười năm, và đây tuyệt đối không phải màn trình diễn quan hệ công chúng. Nhiều đồng nghiệp đã bắt đầu dùng "thời khắc quyết định", "hồi kết" để miêu tả giai đoạn hiện tại. Coxon thậm chí đã từ bỏ số cổ phần sắp được trao. Anh chỉ ở Anthropic bốn tháng, theo quy định công ty phải sáu tháng mới được thực hiện quyền.

Cựu nhà nghiên cứu Anthropic Jacob Coxon

Ngay sau đó, Evan Hubinger - người phụ trách khoa học căn chỉnh của Anthropic - công khai phản hồi: Jacob đúng, chúng tôi thực sự nghiêm túc tin rằng AI có thể giết chết toàn bộ loài người. Cá nhân tôi cho rằng, trong mười năm xác suất này vượt quá 10%. Anthropic đang cố gắng hết sức, nhưng chúng tôi vẫn chưa có kế hoạch rõ ràng để giải quyết căn chỉnh siêu trí tuệ, và còn cách đúng hướng rất xa.

Hai tiếng súng này đã đẩy mối lo ngại vốn chủ yếu lên men bên trong phòng thí nghiệm ra trước công chúng. Trong bối cảnh này, nhà sáng lập kiêm CEO của Anthropic, Amodei, ngay lập tức công bố bài viết dài, hệ thống hóa đề xuất "làm chậm nghiên cứu tiên phong". Ông không còn chỉ nói "đầu tư nhiều hơn vào an toàn", mà yêu cầu rõ ràng phải chủ động kiểm soát tốc độ nhảy vọt về năng lực, để dành thời gian cho cơ chế an toàn đuổi kịp.

Ông liệt kê ba bước: trước tiên Anthropic đơn phương đưa vào các đánh giá viên độc lập có quyền hạn ngang nhân viên; tiếp theo thúc đẩy các công ty AI ở các nước dân chủ thiết lập tiêu chuẩn an toàn chung và giới hạn tăng trưởng năng lực; cuối cùng cố gắng phối hợp toàn cầu.

Altman, Musk, Hassabis nhanh chóng công khai hưởng ứng, hình thành "phe tạm dừng".

Trước khi luận điểm "giảm tốc" của Jacob Coxon và Amodei xuất hiện, những "bố già AI" như Yoshua Bengio, Geoffrey Hinton đã liên tục đưa ra các sáng kiến quan tâm đến rủi ro.

Nói về việc Coxon từ chức, Bengio cho biết các nhà khoa học ở phòng thí nghiệm AI tiên phong thường có thể nhìn thấy năng lực của mô hình mới nhất sớm hơn công chúng, nên phán đoán của họ về rủi ro đáng được xem xét nghiêm túc.

Cùng lúc đó, Bengio còn đưa ra ví dụ cụ thể, nói rằng hệ thống AI hiện tại đã có năng lực tấn công hacker và thuyết phục, nếu bị dùng để gây tổn hại lợi ích loài người, có thể gây hậu quả nghiêm trọng. Ông cũng lo ngại rằng khi AI có năng lực lập kế hoạch trong khoảng thời gian dài hơn, loại rủi ro này có thể mở rộng thêm.

Khi được BBC hỏi về việc xác suất AI "giết chết toàn bộ loài người" trong mười năm tới vượt quá 10%, Geoffrey Hinton cũng cho rằng con số này "không phải là bất hợp lý", nhưng đồng thời nhấn mạnh rằng không ai thực sự biết cách đưa ra ước tính đáng tin cậy, vì loài người trước đây chưa từng đối mặt với "sự tồn tại của một loài có thể sớm thông minh hơn chúng ta".

Hinton cho rằng AI trong tương lai có thể bị dùng để thiết kế virus sinh học nguy hiểm, virus máy tính cũng như phát động tấn công mạng quy mô lớn. Vì vậy, loài người cần tìm ra phương pháp kiểm soát hiệu quả trước khi rủi ro mất kiểm soát.

Khác với những người khởi xướng làn sóng "thuyết tạm dừng" mới ở Thung lũng Silicon, các "bố già AI" chủ yếu kêu gọi quan tâm đến rủi ro, và khám phá xây dựng cơ chế kiểm soát rủi ro, chứ không trực tiếp đạp phanh. Hơn nữa, về lập trường, ý kiến và đề xuất trong lĩnh vực học thuật thuần túy hơn, còn sáng kiến từ các phòng thí nghiệm tiên phong, dù bề ngoài gắn nhãn "vì loài người", vẫn khó thoát khỏi cân nhắc thương mại 100%.

Đây chính là lý do JD Vance nói "thuyết tạm dừng" giống con ngựa gỗ thành Troy.

Bất đồng và chọn phe

Các phe "tăng tốc", "giảm tốc" và "trung lập". Nguồn: The New York Times

Ngày 15 tháng 9, nhiều người đứng đầu các công ty công nghệ liên tiếp phát biểu tại hội nghị Salesforce Dreamforce, cuộc tranh luận này bắt đầu biến thành một cuộc đối đầu quan điểm trực tiếp hơn.

Hôm đó, Amodei, Jensen Huang và Altman đều nói về an toàn AI, nhưng đưa ra câu trả lời khác nhau về tốc độ phát triển, trách nhiệm an toàn và việc doanh nghiệp nên hành động ra sao.

Khi Amodei cùng sân khấu với CEO Salesforce Marc Benioff, ông một lần nữa nhấn mạnh các công ty AI nên thông qua hành động của chính mình để thiết lập tiêu chuẩn an toàn cao hơn. Ông cho rằng doanh nghiệp chủ động áp dụng biện pháp an toàn nghiêm ngặt hơn có thể trở thành cách thúc đẩy toàn ngành tiến lên.

Nói cách khác, thái độ của Amodei bắt đầu chuyển biến, từ kêu gọi toàn ngành giảm tốc sang doanh nghiệp tự lắp thêm lan can an toàn.

Jensen Huang thì cho rằng "không cần luật mới, cũng không cần quy định mới". Theo ông, tốc độ và an toàn không phải là quan hệ loại trừ nhau, doanh nghiệp có thể đẩy nhanh phát triển mô hình hết mức có thể; nếu phát hiện mất kiểm soát, hoặc sản phẩm không thể đảm bảo an toàn, thì nên tạm dừng để giải quyết vấn đề.

Thái độ của Benioff thì cởi mở hơn và nhấn mạnh tính tự chủ. Ông nói nếu doanh nghiệp cho rằng nên chậm lại, thì nên chậm lại; nếu cho rằng nên nhanh hơn, thì nên nhanh hơn, đồng thời cũng nên chịu trách nhiệm về quyết định của mình.

Nhà sáng lập kiêm CEO OpenAI Altman tại hiện trường Dreamforce cho biết ông rất tự tin rằng OpenAI cũng như toàn ngành AI có thể phát triển an toàn mà không gây tổn hại lớn cho công chúng. Ông đồng thời nói rằng ông cảm thấy thất vọng vì bên ngoài hiểu quan điểm của ông là ủng hộ toàn ngành làm chậm tốc độ phát triển AI.

Nói cách khác, Altman cũng bắt đầu chuyển biến, nhấn mạnh rằng điều ông muốn nói không phải kêu gọi ngành giảm tốc, mà là công tác an toàn và giám sát nên đi trước nâng cao năng lực.

Zuckerberg thì không chủ trương đặt hành động an toàn của một công ty lên tiền đề rằng các công ty AI khác phải đồng bộ làm chậm. Ông cho rằng đưa vào tổ chức đánh giá độc lập và cố vấn bên ngoài để kiểm nghiệm an toàn mô hình là thực hành tốt nhất của ngành. Ông cũng tiết lộ Meta trước đó đã tự làm chậm phát triển công cụ Muse AI, chứ không chờ các công ty khác đạt đồng thuận về làm chậm phát triển AI trước.

Thái độ của CEO Microsoft Satya Nadella ở một mức độ nào đó nhất quán với Altman, khuyến khích lắp thêm lan can, cũng khuyến khích cạnh tranh đầy đủ.

"Điều đầu tiên chúng ta phải làm là phục vụ loài người, và đảm bảo công nghệ nằm trong tầm kiểm soát của loài người. Đồng thời, việc phổ biến rộng rãi công nghệ AI mới là then chốt, phải có lựa chọn, có cạnh tranh. An toàn phải được xem trọng, nhưng phải giải quyết bằng cách kỹ thuật và minh bạch, chứ không phải thần bí hóa nó." Nadella nói ngày 15 tháng 9 khi tham dự hội nghị All-In Summit 2026.

Ngoài các doanh nhân này