Chuyên gia: AI không tuân theo các quy tắc an ninh mạng truyền thống

© RIA Novosti/AI generated

"Bạn có thể yêu cầu một tác nhân AI không được làm việc này hay việc kia. Nhưng tác nhân này không phải là con người; nó sẽ không chấp nhận sự gò bó đó. Nó sẽ đơn giản là hoạt động sai lệch và ngừng thực hiện nhiệm vụ. Nói cách khác, bạn không thể áp dụng các phương pháp hạn chế kiểu cũ cho AI," ông Maksimov phát biểu tại phiên toàn thể của diễn đàn "Giải pháp kỹ thuật số" (Digital Solutions).

Do đó, theo ông Maksimov, thách thức được đặt ra theo một cách khác: thay vì áp đặt các lệnh cấm, mục tiêu là đảm bảo tác nhân AI luôn tuân thủ chính xác chỉ dẫn của con người.

"Điều đó có nghĩa là tác nhân AI thực hiện mọi việc đúng với những gì tôi giao phó và tránh làm bất cứ điều gì vượt quá giới hạn hợp lý," ông Maksimov giải thích.

Đồng thời, theo chuyên gia tác nhân AI, việc giải quyết vấn đề trên mà không sử dụng chính AI là điều bất khả thi, bởi con người không thể phân tích mọi hành động của tác nhân AI. Hệ quả là hệ thống bao gồm nhiều AI được hình thành: hệ thống thứ nhất có thể xây dựng ngân hàng ảo, hệ thống thứ hai tìm cách xâm nhập ngân hàng đó, và hệ thống thứ ba học cách phát hiện cuộc tấn công. Chúng được liên kết thành một chuỗi và không ngừng cải tiến, với con người đóng vai trò giám sát toàn bộ cấu trúc này.

Ông Maksimov cũng đề cập đến vấn đề trách nhiệm pháp lý. Ông lưu ý rằng khi con người giao nhiệm vụ cho tác nhân AI và tác nhân đó thực hiện sai lệch, người đó có thể cố gắng chối bỏ trách nhiệm. Tuy nhiên, chuyên gia này chỉ rõ rằng cách tiếp cận như vậy là không thể chấp nhận được đối với cả nhà nước lẫn khu vực doanh nghiệp.

Diễn đàn "Giải pháp kỹ thuật số" đang diễn ra tại Trung tâm Quốc gia "Nga" (Russia National Center) từ ngày 6 đến ngày 10 tháng 10. Sputnik là đối tác truyền thông của diễn đàn này.