Chuyên gia kêu gọi thiết lập cơ chế bảo vệ trước các nguy cơ đe dọa từ AI

© Sputnik / AI generated

Quan điểm này được ông Ruslan Yunusov, đồng sáng lập Trung tâm Lượng tử Nga (Russian Quantum Center), chia sẻ với hãng tin Sputnik bên lề cuộc họp lần thứ 23 của Câu lạc bộ Thảo luận Valdai.

Những lo ngại về các mối đe dọa tiềm tàng từ AI—đặc biệt là nguy cơ công nghệ này vượt khỏi tầm kiểm soát—đang gia tăng trên toàn cầu. Trước đó, trong tháng 9, ông Dario Amodei, người đứng đầu công ty AI hàng đầu Anthropic, đã kêu gọi làm chậm quá trình phát triển các mô hình AI mạnh mẽ hơn vì lý do an toàn. Ông Elon Musk (chủ sở hữu xAI) và ông Sam Altman (người đứng đầu OpenAI) cũng đã bày tỏ sự đồng tình với ý tưởng này.

"Các mối đe dọa từ AI không còn chỉ là giả định nữa. Các mô hình AI hiện đại tiên tiến đến mức, chẳng hạn như, chúng đã từng tìm cách chống lại việc bị tắt nguồn. Đã có những trường hợp được ghi nhận cho thấy chúng che giấu hoặc thậm chí cố tình bóp méo thông tin. Một số mô hình có khả năng nhận biết khi nào chúng đang trong giai đoạn thử nghiệm và bắt đầu che giấu những đặc điểm mà bình thường chúng sẽ bộc lộ trong quá trình vận hành thực tế," ông Yunusov nhận định.

Theo ông, điều này tiềm ẩn rủi ro lớn; đó không đơn thuần là hành vi nói dối, mà giống như một sự tống tiền trắng trợn từ phía AI.

"Những hành vi như vậy của AI—vốn đang ngày càng biểu hiện dưới những hình thức kỳ lạ—đòi hỏi cộng đồng quốc tế phải hành động khẩn cấp. Các quốc gia không chỉ cần suy ngẫm về vấn đề này mà còn phải chung tay thiết lập, chẳng hạn như các quỹ hỗ trợ và cơ chế phản ứng nhanh, để giải quyết những mối đe dọa mới nổi từ AI—những mối đe dọa mà cho đến gần đây, chưa ai có thể hình dung ra được," chuyên gia kết luận.