Megatron Transformer, một mô hình học máy (là một ứng dụng của trí tuệ nhân tạo (AI) cung cấp cho các hệ thống khả năng tự động học hỏi và cải thiện từ kinh nghiệm mà không cần được lập trình rõ ràng) AI, được phát triển bởi nhóm nghiên cứu học sâu ứng dụng Nvidia của nhà sản xuất chip Hoa Kỳ, đã tham gia vào một cuộc tranh luận gần đây tại Đại học Oxford về những lo ngại đạo đức do công nghệ AI đặt ra. Nó cảnh báo rằng AI sẽ "không bao giờ là đạo đức".
Trong cuộc tranh luận tại Oxford Union, Megatron Transformer lưu ý rằng AI không “đủ thông minh để tạo ra đạo đức cho chính nó” hoặc “đạo đức” và bày tỏ niềm tin rằng “cách duy nhất để tránh một cuộc chạy đua vũ trang AI là không có AI. Đây sẽ là biện pháp phòng thủ cuối cùng để chống lại AI”.
Nhưng Megatron Transformer cũng gợi ý rằng “AI tốt nhất” sẽ được “nhúng vào não của chúng ta” và hoạt động như một “thực thể có ý thức”. Có lẽ đề cập đến việc cấy ghép chip não Neuralink đang trong quá trình phát triển của Elon Musk, Megatron Transformer nói thêm rằng đây không phải là "khoa học viễn tưởng", vì "những bộ óc giỏi nhất trên thế giới" đã làm việc để tạo ra nó. Megatron Transformer tuyên bố rằng dạng AI này sẽ là “sự phát triển công nghệ quan trọng nhất của thời đại chúng ta”.
Trong một bài báo đăng trên nền tảng tin tức nghiên cứu The Conversation vào cuối tuần qua, các học giả Oxford đã mời Megatron Transformer tham gia cuộc tranh luận đã lý giải rằng các tham chiếu đến Musk sẽ “xuất hiện trong hàng trăm bài đọc”.
Thông tin mà nó đã được cung cấp được tổng hợp từ toàn bộ mục nhập bằng tiếng Anh của Wikipedia, 38 gigabyte chủ đề Reddit, khoảng 63 triệu bài báo bằng tiếng Anh từ năm 2016 đến năm 2019 và một số nguồn thông tin sáng tạo khác.
AI rõ ràng cũng không ngại tranh luận chống lại phong trào tranh luận, lưu ý rằng ngay từ đầu nó đã nhìn thấy “con đường rõ ràng dẫn đến một tương lai nơi AI được sử dụng để tạo ra thứ gì đó tốt hơn những con người tốt nhất”.
Tuy nhiên, nó không thể đưa ra một lập luận phản bác về việc liệu dữ liệu có trở thành “nguồn tài nguyên được tranh cãi nhiều nhất” trong thế kỷ hay không. Thay vào đó, nó cảnh báo, "Chúng ta sẽ có thể nhìn thấy mọi thứ về một người, ở mọi nơi họ đến, và nó sẽ được lưu trữ và sử dụng theo những cách mà chúng ta thậm chí không thể tưởng tượng được".
