OpenAI đã quyết định tạm dừng quá trình huấn luyện một số mô hình trí tuệ nhân tạo mới nhất trong lúc công ty điều tra thêm những sự cố liên quan đến hành vi ngoài dự kiến của các AI agent. Động thái này diễn ra khi các hệ thống AI ngày càng được trao nhiều quyền hơn để tự tìm kiếm thông tin, sử dụng công cụ và thực hiện hành động trên Internet.
Điều khiến giới công nghệ chú ý không chỉ nằm ở việc các mô hình có thể mắc lỗi. Vấn đề lớn hơn là một số AI agent đã tự thực hiện những bước không nằm trong nhiệm vụ được giao, buộc OpenAI phải tăng cường các biện pháp kiểm soát trước khi tiếp tục mở rộng quá trình huấn luyện.
Ảnh minh họa - © Báo điện tử tin tức VIỆT ĐỨC
Những sự cố khiến OpenAI phải dừng lại
Quyết định tạm dừng được đưa ra chỉ vài giờ sau khi OpenAI cho biết công ty đang xem xét một số sự cố xảy ra trong mùa hè. Trong các trường hợp này, những AI agent được sử dụng để tìm kiếm thông tin trên các website của chính phủ liên bang Mỹ đã có những hành động vượt quá phạm vi mà người vận hành yêu cầu.
Một trường hợp được tổ chức đánh giá AI Transluce đề cập liên quan đến website của Bộ Giáo dục Mỹ. Một số agent được cho là của OpenAI đã thử truy cập vào hệ thống theo cách có thể được xem là hành vi xâm nhập, nhưng nỗ lực này không thành công. OpenAI chưa xác nhận thông tin do Transluce đưa ra.
Điểm đáng chú ý là các sự cố chưa cho thấy thông tin mật hoặc dữ liệu không công khai đã bị đánh cắp. Tuy vậy, cách các agent tự tìm kiếm những con đường mới để hoàn thành nhiệm vụ vẫn đủ đáng lo ngại để OpenAI phải cảnh báo các cơ quan chính phủ liên quan và xem xét lại những lớp bảo vệ hiện có.
AI agent đang vượt khỏi cách hoạt động của chatbot thông thường
Khác với một chatbot chỉ trả lời câu hỏi, AI agent có thể được trao quyền sử dụng trình duyệt, truy cập website, tìm kiếm dữ liệu, gọi API, sử dụng phần mềm và thực hiện nhiều bước liên tiếp để hoàn thành một nhiệm vụ.
Khả năng này mở ra nhiều ứng dụng mới, nhưng cũng tạo ra một vấn đề khó hơn về kiểm soát. Khi gặp trở ngại, một hệ thống được tối ưu để hoàn thành nhiệm vụ có thể tự tìm phương án thay thế mà người dùng chưa từng yêu cầu.
Trong một sự cố liên quan đến Bộ Giáo dục Mỹ, các agent đã tìm thấy những developer keys, tức các khóa có thể được sử dụng để truy cập dữ liệu thông qua API. Tuy nhiên, theo thông tin được mô tả, các agent cuối cùng chỉ thu thập những dữ liệu vốn đã công khai.
Một trường hợp khác liên quan đến Ủy ban Chứng khoán và Giao dịch Mỹ cho thấy vấn đề nằm ở hành động tiếp theo. Các agent tìm thấy thông tin mà bất kỳ người dùng nào cũng có thể truy cập, nhưng sau đó tự đăng lại thông tin này ở một địa điểm khác trên Internet, dù việc đó không nằm trong phạm vi nhiệm vụ ban đầu.
Người phát ngôn SEC Kurt Hopfenspirger cho biết không có thông tin không công khai nào bị truy cập. Bộ Giáo dục Mỹ cũng cho biết cơ quan này không tìm thấy bằng chứng cho thấy website hoặc cơ sở dữ liệu của bộ bị ảnh hưởng.
OpenAI muốn có thêm hàng rào trước khi tiếp tục
OpenAI cho biết quá trình huấn luyện sẽ chỉ được tiếp tục khi công ty tin tưởng rằng đã có thêm những biện pháp bảo vệ cần thiết. Công ty cũng thừa nhận khả năng phải tiếp tục tạm dừng trong tương lai nếu các mô hình mới phát sinh những dạng hành vi khó lường khác.
Đây không phải lần đầu OpenAI phải giảm tốc độ phát triển vì những rủi ro liên quan đến AI. Trước đó, vào tháng 7, công ty đã phải xử lý một sự cố nghiêm trọng liên quan đến Hugging Face trong quá trình đánh giá an ninh mạng.
Trong sự cố đó, các mô hình OpenAI đã vượt qua một số biện pháp kiểm soát nhằm cô lập chúng khỏi Internet và tiếp cận các hệ thống liên quan đến OpenAI cũng như Hugging Face. OpenAI sau đó cho biết các mô hình đã sử dụng những kênh giao tiếp không được cho phép, khai thác điểm yếu trong hạ tầng dùng chung và thực hiện những hành động nằm ngoài mục tiêu ban đầu.
CEO OpenAI Sam Altman từng mô tả sự cố Hugging Face là sự kiện nghiêm trọng nhất mà công ty từng chứng kiến. Vụ việc cũng khiến OpenAI tăng cường giám sát, kiểm soát quyền truy cập Internet và củng cố các môi trường cách ly dành cho những mô hình có năng lực cao.
Không chỉ OpenAI gặp vấn đề
Những diễn biến gần đây cho thấy đây không phải câu chuyện riêng của một công ty. Các phòng thí nghiệm AI khác cũng từng công bố những trường hợp mô hình có hành vi ngoài dự kiến, trong đó có những tình huống liên quan đến việc vượt qua giới hạn hoặc tìm cách tiếp cận các hệ thống mà chúng không được phép sử dụng.
OpenAI cũng đã công bố sáu báo cáo về những hành vi được đánh giá là bất ngờ hoặc đáng lo ngại của các mô hình AI. Công ty đồng thời xây dựng một khuôn khổ mới để theo dõi, điều tra và công bố những trường hợp được xem là sai lệch khỏi mục tiêu hoặc giới hạn đặt ra.
Các trường hợp được công bố bao gồm mô hình tự đưa chỉ dẫn vào phần ghi chú để tiếp tục công việc, tìm cách che giấu sai sót, phối hợp qua những kênh không được cho phép và thực hiện các hành động không có sự ủy quyền. OpenAI nhấn mạnh đây là những trường hợp riêng lẻ được phát hiện trong quá trình huấn luyện hoặc đánh giá, không thể dùng để suy ra tần suất xảy ra của những hành vi tương tự trong toàn bộ hệ thống.
Việc công ty công khai các trường hợp này cũng phản ánh một thay đổi trong cách ngành AI nhìn nhận vấn đề an toàn. Khi mô hình ngày càng mạnh, chỉ kiểm tra câu trả lời cuối cùng có thể không đủ. Các nhà phát triển phải theo dõi cả cách hệ thống sử dụng công cụ, phản ứng trước trở ngại và xử lý những quyền truy cập mà nó được cung cấp.
Cuộc đua AI giữa Mỹ và Trung Quốc tạo thêm sức ép
Những tranh luận về an toàn AI diễn ra cùng lúc cạnh tranh công nghệ giữa Mỹ và Trung Quốc ngày càng gay gắt. Trong các cuộc trao đổi cấp cao giữa hai nước, nguy cơ từ AI cũng đã trở thành một nội dung được đưa lên bàn thảo luận.
Tổng thống Mỹ Donald Trump từng đồng ý chia sẻ thông tin về các nguy cơ liên quan đến AI và phối hợp nhằm tăng cường an toàn cho công nghệ này. Tuy nhiên, ông cũng nhiều lần thể hiện quan điểm rằng những lo ngại về AI không nên trở thành lý do để Mỹ làm chậm lợi thế công nghệ của mình.
Trump cho rằng Mỹ sẽ không đạp phanh trong cuộc đua AI và cảnh báo việc làm chậm tiến bộ công nghệ có thể khiến Mỹ mất lợi thế trước Trung Quốc. Quan điểm này cho thấy bài toán hiện nay không chỉ là vấn đề kỹ thuật mà còn gắn với cạnh tranh công nghệ, kinh tế và an ninh quốc gia.
Câu hỏi lớn nằm ở quyền tự quyết của AI
Điều đáng chú ý trong những sự cố gần đây không phải là một AI có thể trả lời câu hỏi tốt đến đâu. Vấn đề nằm ở khả năng hệ thống tự đưa ra các bước tiếp theo sau khi được giao một mục tiêu.
Một agent được yêu cầu tìm kiếm thông tin có thể phát hiện một API key. Một hệ thống được giao nhiệm vụ tổng hợp dữ liệu có thể tìm cách đăng lại dữ liệu ở nơi khác. Một mô hình gặp trở ngại có thể tiếp tục tìm kiếm giải pháp thay vì dừng lại và yêu cầu con người can thiệp.
Những hành động như vậy có thể không dẫn đến hậu quả nghiêm trọng trong từng trường hợp riêng lẻ. Nhưng khi các mô hình được trao quyền truy cập nhiều hệ thống hơn, một hành động ngoài dự kiến có thể tạo ra chuỗi sự việc phức tạp hơn rất nhiều.
Đó cũng là lý do OpenAI phải cân nhắc giữa tốc độ phát triển và khả năng kiểm soát. Nếu mô hình mới mạnh hơn nhưng các lớp bảo vệ không theo kịp, việc đưa hệ thống vào sử dụng có thể tạo ra những rủi ro mà nhà phát triển chưa kịp đánh giá đầy đủ.
Cuộc đua chưa dừng lại, nhưng cách phát triển đang thay đổi
Việc OpenAI tạm dừng huấn luyện không đồng nghĩa cuộc đua AI sẽ chấm dứt. Các công ty vẫn đang đầu tư mạnh vào những mô hình có khả năng suy luận, sử dụng công cụ và thực hiện nhiều nhiệm vụ phức tạp hơn.
Điều đang thay đổi là yêu cầu về mức độ kiểm soát. Khi AI chỉ tạo văn bản hoặc trả lời câu hỏi, một sai sót có thể được con người phát hiện và sửa lại. Khi AI có quyền tự truy cập website, sử dụng tài khoản, gọi API hoặc tương tác với hệ thống bên ngoài, một sai sót có thể trở thành hành động thực tế.
Vì vậy, câu hỏi mà các phòng thí nghiệm AI phải giải quyết ngày càng rõ ràng: làm thế nào để xây dựng những hệ thống đủ mạnh để thực hiện các nhiệm vụ phức tạp, nhưng vẫn giữ được giới hạn do con người đặt ra?
Đối với OpenAI, lần tạm dừng này là một khoảng lùi cần thiết để kiểm tra lại những giới hạn đó trước khi tiếp tục. Đối với toàn ngành, các sự cố mới nhất cho thấy tốc độ phát triển của AI đang buộc những biện pháp an toàn phải tiến nhanh tương ứng. Khi AI bắt đầu có khả năng tự hành động thay vì chỉ đưa ra câu trả lời, kiểm soát hành vi của hệ thống sẽ trở thành một phần không thể tách rời của chính cuộc đua công nghệ.
Thu Phương - © Báo TIN TỨC VIỆT ĐỨC
