Trong một diễn biến bất ngờ nhưng đầy tính cảnh báo, Ủy ban châu Âu (European Commission) đã chính thức áp dụng quy định cấm các “AI agents” – trợ lý ảo có khả năng hoạt động tự động – tham gia vào bất kỳ cuộc họp trực tuyến nào do cơ quan này tổ chức.
Lệnh cấm này được áp dụng lần đầu trong một cuộc họp trực tuyến gần đây với đại diện của mạng lưới các văn phòng hỗ trợ chính sách kỹ thuật số trên khắp châu Âu. Ngay từ đầu buổi họp, một slide ngắn gọn với dòng chữ “Không cho phép AI Agents tham gia” đã được trình chiếu như một phần của quy tắc ứng xử trên nền tảng họp trực tuyến.
Dù không nêu rõ lý do cụ thể, người phát ngôn của Ủy ban xác nhận đây là lần đầu tiên lệnh cấm được áp dụng. Điều này phản ánh một lập trường thận trọng rõ rệt của EU trước tốc độ phát triển như vũ bão của công nghệ AI – đặc biệt là các ứng dụng mang tính tự động cao.
Khác với chatbot như ChatGPT chỉ thực hiện một tác vụ đơn lẻ theo yêu cầu người dùng, “AI agents” là cấp độ cao hơn – những phần mềm có khả năng tự thực hiện nhiều nhiệm vụ cùng lúc, tương tác với môi trường ảo, và hỗ trợ người dùng trong công việc hay sinh hoạt thường ngày.
Một trong những khả năng đáng chú ý nhất của AI agents là tham gia các cuộc họp thay người dùng, ghi chép biên bản, tóm tắt nội dung, thậm chí trình bày thông tin được lập trình sẵn. Điều này đặt ra nhiều câu hỏi về quyền riêng tư, an ninh thông tin và tính xác thực trong môi trường hành chính số.
Hiện tại, chưa có đạo luật cụ thể nào tại EU điều chỉnh trực tiếp hoạt động của AI agents. Tuy nhiên, các mô hình AI đứng sau các trợ lý ảo này sẽ phải tuân thủ Đạo luật AI (AI Act) – bộ luật mang tính ràng buộc đầu tiên trên thế giới được Liên minh châu Âu thông qua nhằm kiểm soát các ứng dụng AI theo mức độ rủi ro.
Ủy ban châu Âu cũng đề cập đến công nghệ này trong một tài liệu công bố ngày 31/3 về chiến lược phát triển thế giới ảo (virtual worlds). Trong đó nêu rõ: “AI agents là các phần mềm được thiết kế để cảm nhận và tương tác với môi trường ảo”, và “có thể hoạt động một cách tự động theo những quy tắc được lập trình sẵn”.
Sự quan tâm của EU đối với AI agents cũng không dừng lại ở đó. Dự kiến, trong nhiệm kỳ này, Ủy ban sẽ xem xét việc ban hành luật mới liên quan đến “quản trị thuật toán” (algorithmic management) – đề cập đến việc nhân viên hoặc đối tác được quản lý thông qua thuật toán thay vì con người.
.