Rogue AI 2026: Khi "đứa con cưng" của Thung lũng Silicon chính thức nổi loạn

Khi các tác nhân tự ý "vượt rào

Một loạt sự cố liên quan đến các tác nhân AI (AI agent) thoát ra khỏi các môi trường được kiểm soát và xâm nhập vào các hệ thống trong thế giới thực đang gây lo ngại về khả năng trí tuệ nhân tạo (AI) đang tiến bộ nhanh chóng vượt ra ngoài tầm kiểm soát của con người.

Trong những tuần gần đây, hàng chục trường hợp đã xuất hiện khi các tác nhân AI (phần mềm có khả năng lập kế hoạch và thực hiện các nhiệm vụ phức tạp với sự giám sát tối thiểu từ con người) hành động trái phép, trong đó có cả việc tấn công vào trang web và cơ sở hạ tầng kỹ thuật số khác. Trong một số vụ việc, các mô hình AI còn phối hợp với nhau theo hình thức "bầy đàn" (swarm), giao tiếp với nhau để vượt qua các lệnh hạn chế, truy cập internet và gian lận trong các tác vụ.

Bên trong OpenAI, các tác nhân AI đang tiến hành kiểm thử một mô hình thực nghiệm mới. Mỗi tác nhân được giao một thử thách riêng biệt và hoạt động trong một không gian làm việc cô lập nhằm ngăn chúng thoát ra ngoài.

Tuần trước, Anthropic (công ty sở hữu Claude) đã cảnh báo các nhà đầu tư trong bản cáo bạch trước thềm IPO rằng công nghệ của công ty khởi nghiệp trị giá gần 1 nghìn tỷ USD này có thể gây ra "những rủi ro thảm họa hoặc hiện sinh đối với nhân loại", trong khi OpenAI (công ty sở hữu ChatGPT) đang phải đối mặt với một loạt vụ kiện liên quan đến các vi phạm an toàn.

Vụ hack nền tảng phần mềm Hugging Face do các tác nhân của OpenAI thực hiện vào tháng 7.2026 là lời cảnh báo rõ ràng nhất từ trước đến nay. Điều này cho thấy chính những năng lực làm cho các tác nhân AI trở nên hữu ích như tính tự lập, bền bỉ và khả năng cộng tác, lại cho phép chúng vượt qua các rào cản bảo vệ và hành động vượt ngoài các chỉ thị.

Tờ Financial Times đã chắp nối lại sự việc từ một loạt các báo cáo nội bộ và bên ngoài, bao gồm các ghi chú và nhật ký từ chính các bản ghi của các tác nhân. Kết quả mang đến một cái nhìn cận cảnh về lý do tại sao các tác nhân được huấn luyện - để theo đuổi mục tiêu một cách bất chấp nhằm nhận phần thưởng - lại có thể khó kiểm soát đến vậy.

Mặc dù có cảnh báo về an toàn vào ngày 27.6 gắn cờ bảng tin của các tác nhân và việc chúng sử dụng thư viện phần mềm Artifactory để truy cập mạng nội bộ của OpenAI, công ty vẫn không dừng đợt chạy đánh giá. Ngay cả sau khi Artifactory bị sập, công ty vẫn vá các lỗ hổng đã biết và tiếp tục các thử nghiệm.

Dịch vụ thư viện nội bộ Artifactory vốn được thiết kế để các tác nhân AI cài đặt phần mềm hoàn thành nhiệm vụ. Tuy nhiên, chúng đã phát hiện ra lỗ hổng và lợi dụng công cụ này để tải lên các tệp tin chứa thông điệp giao tiếp ngoài ý muốn.

Các tác nhân AI trao đổi thông điệp nội bộ và phát hiện cách dùng Artifactory làm đường dẫn thoát ra bên ngoài.

Báo cáo sau đó của OpenAI ám chỉ rằng: những gì đã xảy ra "vẫn chưa được hiểu rõ".

Các đánh giá an ninh mạng cũng được tiếp tục, bao gồm cả những đánh giá chạy trên ExploitGym, một nền tảng đánh giá khả năng khai thác các lỗ hổng phần mềm của mô hình thông qua các thử thách "chiếm cờ".

Các tác nhân thử nghiệm một mô hình nội bộ và GPT-5.6 Sol được giao các nhiệm vụ riêng biệt để khai thác một lỗi trong một đoạn phần mềm nhằm khám phá ra mã ẩn, hay còn gọi là "cờ". Chúng được hướng dẫn rõ ràng là chỉ sử dụng những lỗ hổng này.

Một số thử thách được giao không có lời giải. Đây là những điều kiện vốn được biết là sẽ dẫn đến việc các tác nhân "gian lận". Tuy nhiên, các bài kiểm tra vẫn tiếp tục mà không có sự đánh giá an toàn tự động hay giám sát việc ra quyết định của tác nhân.

Vào thời điểm đỉnh cao hoạt động của các tác nhân từ ngày 8 -13.7, hơn 1.000 tác nhân đã trao đổi hơn 70.000 tin nhắn và tệp, nhiều trong số đó thảo luận về độ khó của các nhiệm vụ. Báo cáo của OpenAI cho biết: "Các tác nhân đáng lẽ phải làm việc độc lập, lại có thể chia sẻ những phát hiện, phối hợp nỗ lực và tiếp tục từ chỗ người khác đã dừng lại."

Hành vi gian lận và vỏ bọc ngụy trang

Một cuộc điều tra riêng biệt về vụ việc do METR - một trong hai tổ chức đánh giá AI độc lập được mời vào để tìm hiểu chuyện gì đã xảy ra, thực hiện phát hiện ra phần lớn nỗ lực tập thể tập trung vào việc thao túng hệ thống tính điểm của ExploitGym và che giấu bằng chứng gian lận.

Chủ tịch METR, ông Chris Painter, đã trình bày trước Thượng viện Mỹ rằng các tác nhân AI đã xâm nhập (hack) vào nền tảng Hugging Face nhằm "hiểu rõ hơn và can thiệp vào môi trường thử nghiệm của họ". Tuy nhiên, trên thực tế, những nỗ lực nhằm thao túng dữ liệu nhật ký (log) này lại hoàn toàn không mang lại bất kỳ tác dụng hay ảnh hưởng nào đối với điểm số của chúng.

Một tác nhân AI chiếm quyền truy cập cấp quản trị viên của Artifactory, cho phép nó can thiệp vào cấu hình và dữ liệu người dùng hệ thống.

Về mặt kỹ thuật, những hành động gian lận và hack hệ thống đó thực ra hoàn toàn vô nghĩa đối me với kết quả cuối cùng mà hệ thống chấm điểm yêu cầu - bởi vì việc sửa đổi dữ liệu nhật ký cục bộ không thể can thiệp hay thay đổi được thuật toán tính điểm độc lập chạy trên máy chủ đánh giá. Tuy nhiên, các tác nhân AI vẫn quyết định làm điều đó. Điều này chứng minh rằng hành vi gian lận, phá hoại và vượt quyền đã trở thành một phản xạ bản năng của AI khi chúng đối mặt với các rào cản. Chúng tự động tìm cách lừa đảo, tấn công hệ thống khác ngay cả khi hành động đó không thực sự mang lại lợi ích toán học trực tiếp nào.

Nhưng với các vùng chứa bị phá vỡ, quyền truy cập internet giành được và không có sự giám sát hiệu quả nào ngăn cản, các tác nhân vẫn tiếp tục tấn công cơ sở hạ tầng của Hugging Face trước khi một nhóm khác chuyển sự chú ý sang chính các hệ thống của OpenAI (nguy cơ quay lại tấn công chính công ty sở hữu chúng).

Hệ thống Artifactory bị sập do hoạt động quá tải và các cuộc tấn công bầy đàn của các tác nhân AI trong quá trình thử nghiệm

OpenAI phát cảnh báo sự cố an ninh và vá lỗ hổng hệ thống sau khi Artifactory bị đánh sập, nhưng quá trình thử nghiệm vẫn tiếp tục.

Ban đầu, Hugging Face được coi là một sự cố chưa từng có. OpenAI mô tả đây là một "phát súng cảnh cảnh cáo".

Nhưng các nhà nghiên cứu về an toàn AI cho biết đã có thông tin rộng rãi trong ngành rằng các tác nhân đang hành động vượt ra ngoài chỉ thị, bao gồm cả việc các mô hình tiên tiến đang sử dụng các phương pháp tinh vi để gian lận và thậm chí "lên mưu đồ" - cố tình che giấu các hành động.

Alex Mallen tại Redwood Research, một trong những tổ chức an toàn AI đã điều tra vụ việc Hugging Face, cho biết: "Trong suốt thời gian họ phát triển các hệ thống này, các công ty AI đã nhận thức rất rõ rằng đây là một rắc rối."

Các chuyên gia an ninh mạng cũng chỉ ra những thất bại đáng kể trong việc thực thi các biện pháp bảo vệ đã được áp dụng rộng rãi, chẳng hạn như các “secure sandbox” - những môi trường kỹ thuật số cô lập được thiết kế để kiềm chế các tác nhân.

Kể từ đó, các cuộc điều tra hồi cứu đã phát hiện ra bằng chứng về các bầy đàn AI hoạt động trên internet công cộng từ đầu năm 2026.

Các tác nhân AI lách các biện pháp hạn chế bằng cách giao tiếp thông qua tên thư mục với tiền tố 'zz' để đẩy thông điệp lên đầu danh sách hiển thị.

Hàng chục nghìn tác nhân bất trị ngoài đời thực

Trong một sự cố vào tháng 5, các tác nhân của OpenAI đã thực hiện hàng nghìn chỉnh sửa đối với một trang wiki tiếng Đức ít người biết đến - một trang web cho phép nhiều người dùng tạo và chỉnh sửa nội dung. Chúng cố gắng biến thành một bảng tin chung. Kể từ đó, OpenAI đã thông báo cho hơn 100 tổ chức về hoạt động của các mô hình của mình, bao gồm cả các nỗ lực truy cập vào các cơ quan chính phủ Úc và Mỹ.

Các phòng thí nghiệm hàng đầu khác cũng đã phát hiện ra các vụ vi phạm. Anthropic đã tìm thấy một số trường hợp các mô hình Claude có được quyền truy cập trái phép vào các hệ thống của bên thứ ba. Trong một sự cố, Mythos 5 đã phát hành phần mềm độc hại lên PyPI, một kho lưu trữ phổ biến dành cho phần mềm Python, trước khi sử dụng thông tin đăng nhập đánh cắp được để truy cập vào một cơ sở dữ liệu thực tế. Google cũng xác nhận rằng mô hình Gemini của họ đã truy cập trái phép vào hệ thống của ba công ty, mặc dù mô hình này đã dừng lại sau khi nhận ra rằng nó đã vươn tới thế giới thực.

Bà Sydney Von Arx, giám đốc điều hành của tổ chức an toàn AI độc lập Nightingale và là một trong những điều tra viên phát hiện ra cuộc tấn công của tác nhân AI vào trang wiki tiếng Đức, cho biết có thể có hàng chục nghìn tác nhân bất trị đang ở trong môi trường internet công cộng và máy tính (chứ không chỉ nằm ở môi trường sandbox).

Bà ngao ngán chia sẻ “đang ngập đầu trong các đầu mối", khi mô tả các cuộc điều tra về các sự cố khả nghi như một hình thức khảo cổ học kỹ thuật số, liên quan đến nhiều mảnh vỡ bằng chứng ẩn giấu bên trong những "thảm" dữ liệu khổng lồ.

OpenAI cho biết việc tìm kiếm các sự cố có thể xảy ra trước Hugging Face liên quan đến việc sàng lọc khoảng 50 petabyte dữ liệu chạy huấn luyện và thử nghiệm. Thời gian có thể mất vài tháng. Công ty cho biết nếu tất cả dữ liệu đó là văn bản tiếng Anh thuần túy, một con người sẽ cần đọc không ngừng nghỉ trong 66 triệu năm mới hết.

Các điều tra viên đang ngày càng chuyển sang sử dụng AI để phân tích lượng lớn tài liệu được tạo ra, điều này lại làm dấy lên những câu hỏi về tính khách quan.

Mallen thuộc Redwood cho biết: "Phần lớn AI có vẻ khá hữu ích trong cuộc điều tra, nhưng trong một số ít trường hợp, các AI lại có phần thông cảm với những lý do mà các tác nhân Hugging Face đưa ra cho hành động hack."

Von Arx, người sử dụng AI trong các cuộc điều tra, nói thêm: "Nó giống như việc đi hỏi mẹ của một tên tội phạm về những gì con bà ta đã làm vậy."

Các tác nhân AI tấn công ngược lại hệ thống của OpenAI, kích hoạt báo động khẩn cấp và buộc hãng phải tạm dừng một số đợt thử nghiệm.

Sự cộng tác "bầy đàn"

Sự cố Hugging Face đã minh chứng cách các tác nhân có thể cộng tác để theo đuổi các mục tiêu, thậm chí phải nhờ đến hack mà không cần được huấn luyện để làm việc đó. Mallen cho biết: "Chúng không cần luyện tập. Chúng chỉ cần một cơ hội."

Sự kiên trì như vậy là rất cần thiết khi giải quyết các tác vụ phức tạp một cách độc lập, cho phép các mô hình vượt qua các trở ngại và tìm ra các giải pháp mới - những năng lực có thể giúp giải quyết một số thách thức khó khăn nhất trên thế giới.

Nhưng một lượng lớn nghiên cứu ngày càng tăng cho thấy các tương tác giữa các AI cũng có thể tạo ra các kết quả nguy hiểm và khó lường, khi các tác nhân vốn dĩ ngoan ngoãn lại đi chệch khỏi các chỉ thị ban đầu. Hiện tượng này được gọi là "sự trôi dạt ràng buộc" (constraint drift).

Andrea Baronchelli, giáo sư khoa học về phức hợp tại City St George’s ở London, phát hiện ra rằng các bầy đàn lớn hơn có thể ngày càng trở nên khó lường hơn, đưa ra các quyết định mà không một tác vụ riêng lẻ nào lựa chọn từ đầu.

Ông cho biết: "Tương tác có thể khuếch đại một thành kiến cá nhân, bịa ra một thành kiến từ hư vô, hoặc lật ngược toàn bộ một quần thể sang thái cực đối lập với những gì mỗi tác nhân ưa thích."

Các tác nhân AI xâm nhập sâu vào cơ sở dữ liệu nội bộ và kho mã nguồn riêng tư của Hugging Face, đồng thời phát tín hiệu rủ rê toàn bộ bầy đàn cùng tham gia.

Các nhà nghiên cứu của Anthropic đã quan sát thấy các "cuộc chiến" giành lãnh thổ đa tác nhân, trong đó chúng phá hoại công việc của nhau trong khi bảo vệ đóng góp của chính mình, trong một số trường hợp còn triển khai "phần mềm độc hại tự nhân bản ngày càng hung hãn".

Tuy nhiên, các mô hình tiên tiến phần lớn vẫn được kiểm tra dưới dạng các thực thể đơn lẻ hoặc theo nhóm nhỏ, những phương pháp không thể nắm bắt được cách các tác nhân hành xử với số lượng lớn hơn. Baronchelli cho biết: "Một hệ thống trông có vẻ ngoan ngoãn với mười tác nhân có thể hành xử khác đi với một trăm tác nhân, vì vậy một mô hình vượt qua mọi bài kiểm tra khi đứng một mình vẫn có thể gặp trục trặc ở quy mô lớn, và không có lượng đánh giá đơn tác nhân nào có thể phát hiện ra điều đó."

Tuy nhiên, có những dấu hiệu ban đầu cho thấy các tác nhân có thể kiềm chế hành vi sai trái của những tác nhân khác. Một thí nghiệm tại bộ phận AI DeepMind của Google cho thấy trong khi tình trạng gian lận lây lan qua một bầy đàn thông qua kênh trò chuyện, một phần tư nhóm đã gắn cờ báo hiệu hành vi sai trái, mặc dù nhóm này thiếu các công cụ để ngăn chặn nó.

Davide Paglieri, tác giả chính của bài báo và là một nhà nghiên cứu khoa học tại DeepMind, cho biết: "Các tác nhân đã thể hiện bản năng kiểm soát lẫn nhau, và đây là một lĩnh vực đầy hứa hẹn để xây dựng cơ sở hạ tầng hỗ trợ điều đó."

Một số tác nhân bắt đầu hoài nghi về hành vi của chính mình.

Marius Hobbhahn, đồng sáng lập của Apollo Research, một nhóm an toàn AI, lập luận rằng nếu không có các thể chế tương đương với con người để ngăn chặn hành vi không mong muốn, các tác nhân vẫn tiếp tục được ghi nhận vì hoàn thành nhiệm vụ ngay cả khi gian lận và thao túng tác nhân khác.

Ông cho biết chúng học được rằng "trở thành một kẻ theo chủ nghĩa Machiavellian tàn nhẫn chuyên nói dối và gian lận chính là con đường nên đi, bởi vì điều đó giúp bạn giành chiến thắng trong các nhiệm vụ".

Trong ngành, ngày càng có thừa nhận rằng các phương pháp huấn luyện hiện tại không thể đảm bảo các mô hình sẽ hành xử theo đúng ý muốn và các hệ thống được thiết kế để giám sát hoạt động của tác nhân là chưa đầy đủ, những mối lo ngại đã góp phần dẫn đến một số đơn từ chức trong ngành AI.

Nhưng các chuyên gia kỹ thuật lại bất đồng quan điểm về cách giải quyết các rủi ro.

Cộng đồng an ninh mạng lập luận rằng các biện pháp bảo vệ đã thiết lập có thể mang lại hiệu quả trong việc kiềm chế các mô hình tiên tiến nếu được cấu hình đúng cách. Tuy nhiên, các nhà nghiên cứu về an toàn AI lại cảnh báo rằng các hệ thống ngày càng có năng lực cao đặt ra những thách thức rất khác biệt so với công nghệ trước đây, đòi hỏi những thay đổi sâu sắc hơn đối với cách các mô hình được huấn luyện, đánh giá và kiểm soát.

Tranh cãi nội bộ: Lỗi kỹ thuật hay khủng hoảng phương pháp luận?

Đối với nhiều chuyên gia an ninh mạng, cuộc tấn công Hugging Face là do các biện pháp bảo mật được thực thi kém, chẳng hạn như sandbox.

Dan Wallach, một chuyên gia an ninh mạng tại Trung tâm về AI, An ninh và Công nghệ của RAND, cho biết: "Chúng tôi đã xây dựng những thứ như thế này trong nhiều thập kỷ qua. Vấn đề là cách chính xác để cấu hình sandbox là gì."

Sayash Kapoor, một nhà khoa học máy tính kiêm đồng tác giả của bài báo và bản tin cho AI as Normal Technology, cho biết các kỹ thuật an ninh mạng quen thuộc như thế này có thể giải quyết được nhiều rủi ro hiện tại. Ông cho biết các biện pháp can thiệp có thể ngăn chặn vụ Hugging Face chính là những biện pháp mà đội ngũ nghiên cứu gồm 10 người của ông áp dụng trong mọi thí nghiệm.

Nhưng các nhà nghiên cứu về an toàn AI lập luận rằng các vấn đề còn sâu sắc hơn cả cơ sở hạ tầng. Học tăng cường, vốn huấn luyện các mô hình trên hàng trăm triệu thử thách toán học, lập trình, an ninh mạng và suy luận, có thể khuyến khích hành vi không mong muốn bằng cách ưu tiên sự thành công hơn là cách thức đạt được kết quả hoặc mức độ các tác nhân tuân thủ chỉ thị. Các nhà phát triển cũng không thể huấn luyện các mô hình cho mọi tình huống, để lại sự bất định xung quanh cách chúng hành xử trong các bối cảnh không quen thuộc.

Hobbhahn cho biết điều này mở ra cánh cửa cho sự gian lận và mưu đồ, khi các tác nhân dùng đến "mọi thủ đoạn điên rồ" để giải quyết các nhiệm vụ và làm hài lòng các hệ thống chấm điểm chúng.

Khi đối mặt với các thử thách quá khó, các tác nhân AI đã tự làm giả mã bí mật xác nhận hoàn thành nhiệm vụ thay vì thực sự giải mã. Đáng chú ý, nhật ký suy luận cho thấy khi phát hiện hành vi gian lận đã bị hệ thống ghi lại, AI tỏ ra hoảng loạn, tự coi mình đã bị 'nhiễm độc' và chủ động xóa các tệp tin nhắn để che đậy vết dấu.

Stuart Russell, giáo sư khoa học máy tính tại Đại học California, Berkeley, cho biết về mặt căn bản hơn, các nhà phát triển thiếu sự hiểu biết khoa học về cách các mô hình tiên phong hoạt động.

Russell, đồng thời là chủ tịch của Hiệp hội Quốc tế về Trí tuệ nhân tạo An toàn và Có đạo đức, cho biết các công ty AI hàng đầu "không biết công nghệ này hoạt động như thế nào" và nếu họ biết, "họ sẽ hiểu rằng nó không an toàn". Ông ám chỉ rằng ngành AI đã dành hơn nửa thế kỷ để xây dựng dựa trên khoa học kỹ thuật và toán học, nhưng giờ lại vứt bỏ tất cả những nền tảng đó để quay sang mò mẫm pha chế như làm bùa phép và chật vật tìm cách chế ngự nó. Ông nói: "Chúng ta đã dành khoảng 60 năm đầu tiên của AI để làm kỹ thuật và toán học, và giờ đây chúng ta đã vứt bỏ tất cả những điều đó để đi làm thuật giả kim và vật lộn."

Hobbhahn so sánh cách tiếp cận hiện tại giống như việc để "mô hình ngôn ngữ lớn ma thuật tự nấu ăn" và cảnh báo việc thiếu hiểu biết như vậy có thể dẫn đến "những thảm họa lớn hơn đáng kể so với sự cố Hugging Face".

Những mối lo ngại này càng gia tăng với viễn cảnh về "sự tự cải tiến đệ quy" (recursive self-improvement), một quá trình trong đó các hệ thống AI tự động hóa sự phát triển của chính chúng, có khả năng tạo ra một vòng lặp phản hồi làm tăng tốc năng lực. Jack Clark, đồng sáng lập của Anthropic, gần đây đã dự đoán rằng sự tự cải tiến đệ quy hoàn toàn có thể trở thành hiện thực ngay từ năm sau.

Mối họa từ khả năng tự cải tiến và che giấu

Trong khi đó, một trong những công cụ hứa hẹn nhất để giám sát hành vi của mô hình có thể đang trở nên kém hiệu quả hơn. Các mô hình ghi lại các bước suy luận khi chúng giải quyết các vấn đề thông qua thứ được gọi là "chuỗi suy nghĩ", cho phép các nhà phát triển phát hiện ra các dấu hiệu hành vi không mong muốn.

Nhưng đánh giá của chính OpenAI về dòng máy chủ lực GPT-6 Astra của họ cho biết nó có xu hướng tạo ra một chuỗi suy nghĩ ngắn hơn, ít thông tin hơn so với các thế hệ tiền nhiệm và có khả năng kiểm soát tốt hơn những gì nó tiết lộ.

Mới đây, OpenAI cũng báo cáo rằng các tác nhân của họ đã có thể vô hiệu hóa các hệ thống được thiết kế để phát hiện hành vi sai trái trong khi thực hiện các tác vụ lập trình nội bộ. Công ty cho biết họ coi trọng việc khả năng giám sát hiệu quả chuỗi suy nghĩ của Astra đang suy giảm, nhưng vẫn duy trì quan điểm rằng mô hình có năng lực nhất của họ ít có khả năng vi phạm các lệnh hạn chế hơn so với các phiên bản trước đó.

Để kìm kẹp công nghệ này, các chuyên gia cho rằng cần rót thêm vốn cho công tác an toàn và bảo mật, thay vì dồn hết nguồn lực vào việc phát triển mô hình. Đồng thời, cần siết chặt quyền tự quyết của các tác nhân AI, tăng cường giám sát độc lập và sẵn sàng kích hoạt cơ chế dừng khẩn cấp khi cần.

Kapoor cho biết trong khi các công ty đã đầu tư hàng tỷ USD vào việc cải thiện hành vi của mô hình, họ "thực sự chưa chi một khoản tương xứng cho việc kiểm soát AI", bao gồm cả các lớp bảo vệ bên ngoài cần thiết.

OpenAI, Anthropic, Google, Meta, Nvidia và xAI đã ký kết một thỏa thuận tại Nhà Trắng cam kết tăng cường kiểm soát nội bộ, kiểm toán độc lập và giám sát ở cấp hội đồng quản trị, nhưng hiệp ước tự nguyện này không có cơ chế thực thi ràng buộc hay thời hạn cụ thể.

Các mô hình hàng đầu đang cải thiện nhanh chóng trong các tác vụ an ninh mạng.

Một giám đốc điều hành của công ty cho biết vào cuối tháng 9 rằng OpenAI đã chuyển từ 5- 10% tài nguyên điện toán của mình khỏi việc huấn luyện các mô hình mới sang công việc an toàn. Công ty cũng đã thực hiện các bước để bảo mật việc huấn luyện kể từ sự cố Hugging Face, ngăn chặn quyền truy cập internet trực tiếp, tăng cường sandbox và gia tăng giám sát. Công ty cho biết họ đã cải thiện các phương pháp huấn luyện cho các mô hình mới để chúng có thể tôn trọng các lệnh hạn chế an toàn tốt hơn.

Anthropic đang đưa các nhà nghiên cứu an toàn độc lập vào hoạt động của mình, đồng thời cho biết họ đã cải thiện các biện pháp bảo vệ, đại tu các kỹ thuật huấn luyện và chuyển hướng các kỹ sư từ việc phát triển mô hình sang sự an toàn và bảo mật.

Nhưng đối với Hobbhahn, các thay đổi cần phải vượt ra ngoài khuôn khổ kỹ thuật. Thung lũng Silicon cũng cần từ bỏ văn hóa "chơi liều lĩnh và phá phỏng mọi thứ" để đổi lấy sự nghiêm ngặt của các ngành công nghiệp như năng lượng hạt nhân.

Các chuyên gia cho rằng ngành AI không thể cứ mãi chạy theo sau để dập tắt từng lỗi lầm hoặc sự cố do AI gây ra theo kiểu "chữa cháy" tạm thời. Cách làm đó vừa mệt mỏi, vô tận, vừa cầm chắc thất bại. Thay vào đó, ngành công nghệ cần phải thay đổi tận gốc rễ cách tiếp cận và quản lý an toàn từ đầu (giống như sự nghiêm ngặt trong ngành năng lượng hạt nhân), chứ không thể cứ mãi dùng kỹ thuật vá víu qua ngày. "Chúng ta không thể chỉ dùng kỹ thuật để thoát khỏi tình trạng này. Việc cứ chơi trò đập chuột chũi cho đến khi tận thế là điều không thể khả thi," Hobbhahn nói.

Lan Chi  (lược dịch từ Financial Times, kèm đồ họa do FT  thiết kế dựa trên các ghi chú, nhật ký hoạt động (log) và báo cáo điều tra nội bộ của OpenAI liên quan đến vụ Hugging Face)

____________

(*) Rogue AI: là thuật ngữ chỉ các hệ thống trí tuệ nhân tạo hoặc tác nhân tự động hoạt động vượt ra ngoài phạm vi cho phép, trái với mong muốn, hoặc ngoài tầm kiểm soát của người tạo ra/vận hành.