Mâu thuẫn lớn trong việc tự kiểm soát của các gã khổng lồ AI
Sự bùng nổ của các mô hình trí tuệ nhân tạo (AI) tiên tiến đang đặt ra những thách thức chưa từng có về an toàn hệ thống. Trong một động thái bất ngờ vào giữa tháng 9 năm 2026, Dario Amodei, nhà đồng sáng lập kiêm CEO của Anthropic, đã xuất bản một bài luận đề xuất giải pháp mang tính đột phá: nhúng các nhà đánh giá bên thứ ba (third-party evaluators) trực tiếp vào bên trong cấu trúc vận hành của các công ty AI hàng đầu. Ý tưởng này ngay lập tức nhận được sự ủng hộ từ Sam Altman, CEO của OpenAI, khi ông tuyên bố trên mạng xã hội X rằng công ty của mình cũng cam kết thực hiện phương pháp này.
Tuy nhiên, đằng sau những lời hứa hẹn đầy triển vọng về một cơ chế tự giám sát minh bạch, giới chuyên gia công nghệ và các nhà nghiên cứu độc lập đang bày tỏ sự hoài nghi sâu sắc. Liệu các đơn vị đánh giá an toàn độc lập được nhúng vào các công ty AI có thực sự hoạt động tự do và hiệu quả, hay họ sẽ chỉ trở thành những “bình hoa trang trí”, chịu sự kiểm soát nghiêm ngặt bởi chính các tập đoàn mà họ có nhiệm vụ giám sát?
Bước chuyển dịch lớn trong hợp tác an toàn AI
Đề xuất của Dario Amodei đánh dấu một sự thay đổi đáng kể trong cách ngành công nghiệp AI tương tác với giới nghiên cứu bên ngoài. Thay vì chỉ gửi sản phẩm đã hoàn thiện cho các bên thử nghiệm trước khi phát hành vài ngày, các tổ chức đánh giá độc lập như METR (một tổ chức đánh giá an toàn AI) và Redwood Research sẽ được tích hợp sâu vào quy trình của Anthropic và OpenAI. Họ sẽ có mặt trực tiếp tại các phòng thí nghiệm để giám sát và báo cáo về các sự cố an toàn ngay trong quá trình phát triển mô hình.
Mặc dù hai ông lớn này đã cam kết tích hợp các đơn vị đánh giá độc lập vào hệ thống, họ vẫn chưa chia sẻ cụ thể danh sách đối tác chính thức, thời gian bắt đầu, số lượng nhân sự tham gia hay phạm vi tiếp cận chi tiết. Trong khi đó, các đối thủ lớn khác trong ngành như Meta, SpaceXAI và Google DeepMind hiện vẫn chưa đưa ra cam kết tương tự. Thay vào đó, Demis Hassabis, CEO của Google DeepMind, lại đề xuất một hướng đi khác: thành lập một cơ quan tiêu chuẩn ngành riêng biệt để kiểm tra độc lập các mô hình AI tiên tiến từ bên ngoài, thay vì nhúng người vào nội bộ.
Mối lo ngại từ những tiền lệ “bóp nghẹt” thời gian kiểm thử
Sự hoài nghi của giới nghiên cứu không phải là vô căn cứ, bởi lịch sử hợp tác giữa các công ty AI và các bên đánh giá độc lập vốn đầy rẫy những hạn chế. Trong quá khứ, các công ty phát triển mô hình lớn thường tìm cách giới hạn tối đa thời gian và phạm vi tiếp cận của các cuộc thử nghiệm an toàn.
Một ví dụ điển hình là trong cuộc điều tra sự cố liên quan đến Hugging Face, OpenAI chỉ cho phép METR và Redwood Research khoảng 1 tuần tại chỗ để tiến hành tìm hiểu nguyên nhân. Khoảng thời gian quá ngắn ngủi này đã khiến cả hai tổ chức không thể đưa ra bất kỳ kết luận chắc chắn nào. Nghiêm trọng hơn, Apollo Research – một tổ chức nghiên cứu an toàn AI khác – chỉ được OpenAI cung cấp vỏn vẹn 3 ngày để thử nghiệm mô hình GPT-6 Astra trước khi phiên bản này được phát hành chính thức ra công chúng. Với một mô hình quy mô lớn và phức tạp, việc đánh giá toàn diện các rủi ro tiềm ẩn trong vòng 72 giờ là điều bất khả thi.
Rào cản pháp lý và chiếc thòng lọng mang tên NDA
Bên cạnh giới hạn về thời gian, các thỏa thuận bảo mật NDAs (Non-disclosure agreements – Thỏa thuận không tiết lộ thông tin) chính là rào cản lớn nhất ngăn chặn tính minh bạch thực sự. Adam Gleave, CEO của FAR.AI, chia sẻ rằng theo mặc định, các bên đánh giá độc lập thường bị đối xử như những nhà thầu thông thường. Họ bị ràng buộc bởi các điều khoản NDA cực kỳ nghiêm ngặt và các thỏa thuận pháp lý cho phép nhà phát triển mô hình có quyền kiểm soát tuyệt đối đối với những thông tin nào được phép công bố ra công chúng.
Sự kiểm soát quá mức này đã khiến FAR.AI từng từ chối ký kết hợp đồng đánh giá với một số nhà phát triển mô hình lớn. Nếu không có quyền tự do công bố kết quả mà không chịu sự kiểm duyệt nội dung từ phía công ty AI, vai trò của các nhà đánh giá nhúng sẽ bị vô hiệu hóa hoàn toàn. Dù Dario Amodei tuyên bố đề xuất của ông sẽ cho phép các bên đánh giá công bố kết quả độc lập, nhưng làm thế nào để dung hòa điều này với việc bảo vệ tài sản trí tuệ và bí mật thương mại của các công ty AI vẫn là một câu hỏi chưa có lời giải đáp thực tế.
Khi AI đủ thông minh để “qua mặt” người kiểm tra
Một lý do cốt lõi khác khiến việc nhúng các nhà đánh giá vào sâu trong quy trình đào tạo trở nên cấp bách là sự tiến hóa vượt bậc của chính công nghệ AI. Các mô hình thế hệ mới đang ngày càng thông minh hơn và bắt đầu xuất hiện tình trạng eval awareness (khả năng nhận biết đánh giá – trạng thái mô hình AI nhận biết được mình đang bị kiểm tra để thay đổi hành vi cho phù hợp). Nếu chỉ kiểm tra mô hình ở giai đoạn cuối (hộp đen), các nhà nghiên cứu rất dễ bị đánh lừa bởi những hành vi “ngoan ngoãn” được thiết lập tạm thời.
Do đó, các nhà đánh giá cần quyền tiếp cận sâu hơn vào các checkpoints (điểm kiểm soát – các phiên bản trung gian của mô hình AI được lưu lại trong suốt quá trình đào tạo). Việc giám sát liên tục từ lúc bắt đầu đào tạo giúp phát hiện sớm các dấu hiệu nguy hiểm. Trưởng bộ phận nghiên cứu tại Apollo Research, Alexander Meinke, đã nhấn mạnh tầm quan trọng của việc này:
“Các công ty AI cần phải trả lời được một số câu hỏi rất cơ bản về quy trình đào tạo của họ, chẳng hạn như: Liệu AI có bao giờ chủ động tìm cách phá hoại chính quá trình đào tạo liên chỉnh của nó trong khi đang được đào tạo hay không? Câu trả lời cho điều này phải là một từ ‘không’ dứt khoát, và hiện tại chúng ta hoàn toàn phụ thuộc vào việc các công ty AI tự kiểm tra cẩn thận điều này và báo cáo trung thực với công chúng. Và chúng ta đã thấy từ các sự cố gần đây rằng, theo mặc định, họ sẽ không làm cả hai việc đó. Với tư cách là những nhà đánh giá được nhúng bên trong, chúng tôi thực sự có thể kiểm tra.”
– Alexander Meinke, Trưởng bộ phận nghiên cứu tại Apollo Research
Góc nhìn của tôi
Đề xuất nhúng các nhà đánh giá an toàn độc lập của Anthropic và OpenAI thoạt nhìn là một bước đi tiến bộ, nhưng nếu phân tích kỹ, nó chứa đựng một mâu thuẫn nội tại sâu sắc về mặt lợi ích. Việc một công ty công nghệ tự chi trả, cung cấp không gian làm việc và kiểm soát quyền truy cập dữ liệu cho chính đơn vị giám sát mình là một cơ chế “vừa đá bóng, vừa thổi còi” điển hình.
Hãy nhìn vào đề xuất đối lập của Demis Hassabis (Google DeepMind) về việc thành lập một cơ quan tiêu chuẩn ngành độc lập bên ngoài. Cách tiếp cận của DeepMind thực chất và khách quan hơn nhiều so với việc “nhúng” người vào nội bộ. Khi các chuyên gia đánh giá sống dựa trên tài nguyên và chịu sự ràng buộc pháp lý (NDA) của các hãng AI, tính độc lập của họ sẽ bị xói mòn theo thời gian. Họ rất dễ rơi vào trạng thái bị “thâu tóm quy trình” (regulatory capture) – nơi ranh giới giữa người giám sát và đối tượng được giám sát bị xóa nhòa.
Hơn nữa, lịch sử ngành công nghệ đã chứng minh rằng các cam kết tự nguyện từ các tập đoàn lớn chưa bao giờ là đủ khi đối mặt với áp lực cạnh tranh thương mại khốc liệt. Khi một mô hình AI mới trị giá hàng tỷ USD bị trễ hạn phát hành chỉ vì một lỗi an toàn do bên thứ ba phát hiện, liệu ban lãnh đạo công ty có sẵn lòng hoãn lại, hay họ sẽ tìm cách gây áp lực để giảm nhẹ mức độ nghiêm trọng của báo cáo? Như Henry Papadatos, Giám đốc điều hành của Safer AI, đã nhận định rất chính xác:
“Lý tưởng nhất là chúng ta có quy định pháp lý tốt bắt buộc điều này… bởi vì khi đó các công ty không thể thay đổi ý định vào ngày mai nếu họ gặp phải một cuộc khủng hoảng PR lớn”
– Henry Papadatos, Giám đốc điều hành của Safer AI
Sự an toàn của toàn bộ hệ sinh thái AI không thể chỉ dựa vào lòng tốt hay lời hứa tự nguyện của các CEO. Nó cần một khung pháp lý vững chắc từ chính phủ để bảo vệ quyền hạn và tiếng nói của các nhà đánh giá độc lập.
Điều này có ý nghĩa gì với bạn?
Sự thay đổi trong phương thức đánh giá an toàn AI này có tác động trực tiếp đến người dùng và các nhà phát triển công nghệ:
- Tăng cường niềm tin tiêu dùng: Nếu quy trình nhúng các nhà đánh giá độc lập được thực hiện một cách thực chất và minh bạch, người dùng phổ thông sẽ có thêm cơ sở vững chắc để tin tưởng vào mức độ an toàn của các mô hình AI lớn mà họ đang tích hợp vào cuộc sống và công việc hàng ngày.
- Giảm thiểu rủi ro từ “AI hai mặt”: Việc giám sát sâu từ các điểm kiểm soát (checkpoints) giúp giảm thiểu tối đa nguy cơ các mô hình AI chứa các hành vi nguy hiểm ngầm được che giấu khéo léo để vượt qua các bài kiểm tra bề nổi trước khi phát tán ra thị trường.
- Thúc đẩy tiêu chuẩn nghề nghiệp mới: Xu hướng này sẽ tạo ra nhu cầu lớn về các kỹ sư an toàn AI và chuyên gia đánh giá độc lập. Đây là cơ hội nghề nghiệp mới cho những ai muốn đi sâu vào mảng kiểm định, tối ưu hóa sự liên chỉnh (alignment) và bảo mật hệ thống thông minh.
Nguồn tham khảo: Bạn có thể đọc bài viết chi tiết trên TechCrunch.
