Trí tuệ nhân tạo (AI) đang mở ra những cơ hội lớn cho kinh tế và khoa học, nhưng cũng làm gia tăng lo ngại về khả năng con người kiểm soát các hệ thống ngày càng thông minh. Một số chuyên gia công nghệ cảnh báo rằng AI có thể gây ra hậu quả nghiêm trọng nếu bị sử dụng sai mục đích, thực hiện nhiệm vụ theo cách ngoài dự kiến hoặc phát triển những mục tiêu xung đột với lợi ích của con người.
Tranh luận về các biện pháp kiểm soát vì thế không chỉ liên quan đến giới nghiên cứu, mà còn tác động đến chính sách công nghệ, an ninh mạng và quyết định đầu tư vào các doanh nghiệp công nghệ lớn.
Vấn đề gây tranh cãi là làm thế nào để hạn chế rủi ro mà không khiến quá trình đổi mới bị đình trệ. Trong cuộc đua AI giữa Mỹ và Trung Quốc, mỗi quyết định siết chặt hay nới lỏng quy định đều có thể ảnh hưởng đến năng lực cạnh tranh, dòng vốn và vị thế của các doanh nghiệp trên thị trường toàn cầu.
Ảnh minh họa - © Báo điện tử tin tức VIỆT ĐỨC
Ba kịch bản khiến giới công nghệ lo ngại về AI
Nguy cơ AI gây tổn hại cho con người đã được nhiều lãnh đạo và chuyên gia công nghệ công khai đề cập. Elon Musk, người đứng đầu SpaceX và có nhiều hoạt động trong lĩnh vực công nghệ, là một trong những nhân vật từng cảnh báo về những hậu quả tiềm tàng của trí tuệ nhân tạo nếu công nghệ này phát triển mà thiếu cơ chế giám sát phù hợp.
Các mối lo thường tập trung vào ba kịch bản khác nhau. Kịch bản thứ nhất là con người cố tình sử dụng những hệ thống AI có năng lực vượt trội để thực hiện hành vi nguy hiểm, từ tấn công mạng đến hỗ trợ phát triển các phương thức gây tổn hại trên quy mô lớn. Trong trường hợp này, nguồn gốc của rủi ro nằm ở mục đích sử dụng công nghệ của con người.
Kịch bản thứ hai xảy ra khi AI thực hiện nhiệm vụ được giao nhưng lựa chọn cách thức gây ra hậu quả ngoài dự kiến. Một hệ thống được tối ưu để đạt mục tiêu cụ thể có thể đưa ra quyết định không phù hợp với ý định ban đầu của người vận hành nếu mục tiêu, dữ liệu hoặc giới hạn hoạt động được thiết kế thiếu chặt chẽ.
Kịch bản thứ ba được xem là khó đánh giá hơn: hệ thống AI có thể theo đuổi những mục tiêu không còn phù hợp với lợi ích của con người. Đây là mối lo thường xuất hiện trong các cuộc thảo luận về AI tiên tiến, đặc biệt khi hệ thống được trao nhiều quyền tự chủ, có khả năng sử dụng công cụ và thực hiện chuỗi nhiệm vụ phức tạp mà không cần con người can thiệp liên tục.
Ba kịch bản này không đồng nghĩa với việc AI chắc chắn sẽ nổi loạn hoặc gây ra thảm họa. Chúng phản ánh những dạng rủi ro khác nhau cần được nghiên cứu, thử nghiệm và quản lý bằng các biện pháp phù hợp.
Tranh luận về khả năng kiểm soát và cảnh báo từ chuyên gia
Trong cộng đồng nghiên cứu AI, một câu hỏi ngày càng được quan tâm là liệu các hệ thống có năng lực cao có thể được giám sát hiệu quả khi chúng thực hiện những nhiệm vụ ngày càng phức tạp hay không. Một số chuyên gia lo ngại rằng khả năng phát hiện sai sót có thể không theo kịp tốc độ phát triển của công nghệ, đặc biệt nếu các mô hình được triển khai rộng rãi trước khi những giới hạn của chúng được hiểu đầy đủ.
Những tranh luận về nguy cơ AI đối với nhân loại đôi khi đi kèm các ước tính xác suất rất cao. Tuy nhiên, các con số như nguy cơ tuyệt chủng trong khoảng 10-25% trong vòng một thập kỷ, nếu được đưa ra, cần được xem xét cùng nguồn nghiên cứu, phương pháp tính toán và giả định nền tảng. Không thể coi đây là xác suất đã được cộng đồng khoa học thống nhất hoặc một dự báo chắc chắn về tương lai.
Lo ngại về an toàn cũng xuất hiện trong lực lượng lao động công nghệ. Những người trực tiếp phát triển hệ thống AI có thể nhận thấy các vấn đề kỹ thuật mà người dùng thông thường khó quan sát, từ khả năng tạo ra thông tin sai lệch đến việc thực hiện hành động không mong muốn khi được kết nối với những công cụ bên ngoài. Tuy nhiên, các tuyên bố về số lượng nhân viên ký đơn nghỉ việc hoặc đồng loạt yêu cầu dừng phát triển cần có bằng chứng cụ thể trước khi được xem là sự kiện đã được xác nhận.
Trọng tâm của cuộc tranh luận không chỉ là AI có thể thông minh đến đâu, mà còn là con người có thể hiểu, kiểm tra và giới hạn hành vi của nó đến mức nào. Khả năng đánh giá độc lập, thử nghiệm trước khi triển khai và duy trì quyền can thiệp của con người là những vấn đề đang được đặt ra trong quá trình phát triển các hệ thống tiên tiến.
Ý tưởng về công tắc khẩn cấp cho các hệ thống AI
Một trong những giải pháp thường được nhắc đến là xây dựng cơ chế cho phép con người nhanh chóng dừng hoạt động của hệ thống khi phát hiện dấu hiệu nguy hiểm. Hình ảnh rút phích cắm có thể dễ hiểu, nhưng việc ngắt một hệ thống AI trong thực tế phức tạp hơn nhiều, nhất là khi công nghệ được tích hợp vào hạ tầng số, dịch vụ trực tuyến và các quy trình vận hành liên tục.
Cơ chế dừng khẩn cấp chỉ phát huy tác dụng nếu người vận hành nhận biết được sự cố, có đủ quyền truy cập và có thể ngắt hệ thống mà không tạo ra hậu quả nghiêm trọng hơn. Với những mô hình được triển khai trên nhiều máy chủ hoặc kết nối với các dịch vụ khác, việc xác định phạm vi cần dừng và bảo đảm hệ thống không tiếp tục thực hiện hành động ngoài ý muốn có thể đòi hỏi thiết kế kỹ thuật từ trước.
Vì vậy, kiểm soát AI không thể chỉ dựa vào một nút tắt. Các biện pháp có thể bao gồm giới hạn quyền truy cập, giám sát hành vi, kiểm tra độc lập, ghi lại hoạt động, thử nghiệm tình huống nguy hiểm và xây dựng quy trình ứng phó sự cố. Mức độ kiểm soát cần tương xứng với năng lực của hệ thống và mức độ thiệt hại có thể xảy ra khi hệ thống hoạt động sai.
Tranh luận về việc có nên hạn chế phát triển AI cũng phản ánh sự khác biệt giữa những người ưu tiên giảm thiểu rủi ro và những người cho rằng cần tiếp tục đổi mới để duy trì lợi thế công nghệ. Một chính sách hiệu quả phải tính đến cả hai yêu cầu, thay vì mặc định rằng phát triển nhanh luôn an toàn hoặc mọi hình thức hạn chế đều có lợi.
Mỹ và Trung Quốc trong cuộc đua trí tuệ nhân tạo
Tại Mỹ, các quyết định liên quan đến AI gắn chặt với mục tiêu duy trì vị thế dẫn đầu về công nghệ. Tổng thống Donald Trump theo đuổi định hướng thúc đẩy năng lực cạnh tranh của Mỹ, trong đó việc tránh để các đối thủ vượt lên trong những lĩnh vực chiến lược là một ưu tiên chính sách. Những người phản đối các biện pháp kiểm soát quá chặt thường cho rằng quy định thiếu cân nhắc có thể làm tăng chi phí phát triển và khiến doanh nghiệp Mỹ mất lợi thế.
Ở chiều ngược lại, những người ủng hộ giám sát nghiêm ngặt hơn cho rằng tốc độ phát triển không nên vượt quá khả năng đánh giá rủi ro. Theo quan điểm này, các yêu cầu kiểm tra an toàn và trách nhiệm giải trình có thể giúp giảm thiểu thiệt hại, đồng thời củng cố niềm tin của người dùng và doanh nghiệp đối với công nghệ mới.
Trung Quốc cũng coi AI là lĩnh vực có ý nghĩa chiến lược đối với tăng trưởng kinh tế và năng lực cạnh tranh quốc gia. Các công ty phát triển mô hình AI của Trung Quốc, trong đó có DeepSeek và Moonshot AI, đã thu hút sự chú ý của thị trường quốc tế. Sự xuất hiện của các doanh nghiệp này cho thấy cuộc đua không chỉ xoay quanh những tập đoàn công nghệ Mỹ lâu năm, mà còn mở rộng sang các công ty có cách tiếp cận khác về mô hình, chi phí và hạ tầng tính toán.
Tuy nhiên, nhận định rằng Trung Quốc chủ trương phát triển AI không giới hạn hoặc các doanh nghiệp nước này có được công nghệ cốt lõi của Thung lũng Silicon bằng cách đánh cắp cần được phân biệt rõ với những dữ kiện đã được xác minh. Việc phát triển mô hình AI có thể dựa trên nhiều yếu tố, bao gồm nghiên cứu nội bộ, nguồn lực tính toán, dữ liệu, phương pháp huấn luyện và các kỹ thuật tối ưu hóa. Những cáo buộc về hành vi chiếm đoạt công nghệ cần được đánh giá theo từng trường hợp cụ thể.
Cạnh tranh Mỹ - Trung vì thế tạo ra một bài toán khó cho các nhà hoạch định chính sách. Nếu các biện pháp hạn chế được áp dụng quá rộng, doanh nghiệp có thể phải đối mặt với chi phí cao hơn hoặc tiến độ phát triển chậm lại. Nhưng nếu thiếu cơ chế kiểm soát thích hợp, rủi ro an ninh và các sự cố liên quan đến AI cũng có thể gây tổn thất đáng kể cho nền kinh tế.
Rủi ro AI và những điều nhà đầu tư cần theo dõi
Đối với thị trường tài chính, AI vừa là động lực tăng trưởng vừa là nguồn rủi ro cần được tính đến. Các doanh nghiệp cung cấp chip, dịch vụ điện toán đám mây, mô hình AI và phần mềm có thể hưởng lợi khi nhu cầu tăng. Tuy nhiên, kỳ vọng lớn về doanh thu cũng khiến giá cổ phiếu nhạy cảm hơn trước những thay đổi trong chính sách, chi phí đầu tư và đánh giá của thị trường về khả năng tạo lợi nhuận thực tế.
Nhà đầu tư không nên chỉ nhìn vào tốc độ tăng trưởng hoặc những tuyên bố về tiềm năng của công nghệ. Một số yếu tố cần theo dõi gồm:
- Quy định mới về kiểm định an toàn, bảo vệ dữ liệu và trách nhiệm pháp lý đối với sản phẩm AI.
- Chi phí xây dựng trung tâm dữ liệu, mua chip và vận hành các mô hình có năng lực cao.
- Nguy cơ sự cố an ninh mạng, rò rỉ dữ liệu hoặc hệ thống tự động đưa ra quyết định gây thiệt hại.
- Khả năng chuyển đổi đầu tư vào AI thành doanh thu, lợi nhuận và dòng tiền bền vững.
- Những thay đổi trong chính sách công nghệ của Mỹ và Trung Quốc có thể ảnh hưởng đến chuỗi cung ứng, khả năng tiếp cận thị trường và hoạt động của doanh nghiệp.
Một đợt siết chặt quy định có thể làm thay đổi triển vọng của một số doanh nghiệp, nhưng không có nghĩa mọi cổ phiếu công nghệ đều chịu tác động giống nhau. Mức độ ảnh hưởng còn phụ thuộc vào mô hình kinh doanh, khả năng tuân thủ, nguồn thu, cấu trúc chi phí và mức định giá của từng công ty. Tương tự, một sự cố AI nghiêm trọng có thể làm giảm niềm tin của thị trường, song phản ứng thực tế sẽ phụ thuộc vào phạm vi thiệt hại và cách doanh nghiệp xử lý vấn đề.
Cuộc tranh luận về AI cuối cùng vẫn xoay quanh việc làm sao khai thác lợi ích của công nghệ mà không đánh đổi an toàn và trách nhiệm. Với giới đầu tư, điều cần thiết là đánh giá cả triển vọng tăng trưởng lẫn những rủi ro có thể làm thay đổi giá trị doanh nghiệp. Trong một lĩnh vực phát triển nhanh và còn nhiều bất định, việc đa dạng hóa danh mục, kiểm soát mức độ chấp nhận rủi ro và tránh đặt cược chỉ dựa trên kỳ vọng tăng giá là những nguyên tắc đáng cân nhắc.
AI chưa đồng nghĩa với một cuộc nổi loạn của máy móc, nhưng các câu hỏi về quyền kiểm soát, an ninh và trách nhiệm đã trở thành vấn đề thực tế.
Cuộc đua giữa Mỹ và Trung Quốc sẽ tiếp tục định hình tốc độ phát triển của công nghệ này, còn cách các chính phủ và doanh nghiệp xử lý rủi ro có thể ảnh hưởng trực tiếp đến niềm tin của công chúng cũng như triển vọng của ngành. Đối với nhà đầu tư, cơ hội vẫn tồn tại, nhưng cần được nhìn nhận cùng những bất định về kỹ thuật, chính sách và hiệu quả kinh doanh, thay vì chỉ dựa vào sức hấp dẫn của làn sóng AI.
Nguyễn Thanh Bình - © Báo TIN TỨC VIỆT ĐỨC
