Cha đẻ AI phản đối sử dụng trí tuệ nhân tạo cho mục đích chiến tranh

Hôm 17/11, Yoshua Bengio, một trong những cha đẻ của công nghệ AI tham dự sự kiện diễn đàn công nghệ tại Học viện MIT. Yoshua bày tỏ với Will Knight, biên tập viên trang Technology Review về nỗi lo khi ý tưởng ban đầu đang dần phát triển theo hướng khó kiểm soát.

- Ông nghĩ thế nào về ý tưởng luôn tồn tại một cuộc chạy đua AI vũ trang giữa các quốc gia lớn?

Tôi không thích ý tưởng ấy. Nó hoàn toàn sai lầm. Ganh đua chế tạo AI là việc tốt, nhưng chúng phải được đặt trong mục đích khoa học. Tôi cho rằng điều tốt nhất chúng ta nên làm là chế tạo được công nghệ AI đem đến lợi ích cho càng nhiều người càng tốt.

 - Có cách nào để thúc đẩy sự hợp tác công nghệ giữa các quốc gia không?

Chúng tôi có thể tạo nhiều điều kiện học hỏi cho những người đến từ các nước đang phát triển. Tại châu Âu, Mỹ hay Canada, để một nghiên cứu sinh người châu Phi lấy được visa là rất khó. Việc xin visa cứ như chơi xổ số vậy và họ có quyền được từ chối bất cứ lúc nào. Điều này thật không công bằng chút nào.

Trong điều kiện của họ, tài nguyên nghiên cứu vốn đã rất giới hạn bây giờ kể cả một cộng đồng các nghiên cứu sinh cũng không thể gây dựng được. Chúng tôi dự định giải quyết vấn đề trên tại hội nghị AI toàn cầu (ICLR) diễn ra vào năm 2020 tại châu Phi.

- Ông có lo ngại rằng nhiều công ty công nghệ tại Trung Quốc đang độc chiếm AI?

Vâng. Đó là lý do tại sao chúng ta cần phải có nhiều sự dân chủ trong việc nghiên cứu và phát triển AI. Bản chất của việc nghiên cứu trí tuệ nhân tạo là việc kiếm được nhiều tiền, thâu tóm quyền lực.

Công ty càng lớn tiền bỏ ra càng nhiều, thu nhập được nhiều thông tin và lôi kéo nhiều người giỏi. Tôi cho rằng như vậy là sai lầm. Cho dù nghiên cứu AI vẫn đang trong tình trạng dân chủ nhưng quyền lực lại tập trung vào tay một số người lại rất nguy hiểm.

- Đã có nhiều tranh cãi xoay quanh việc sử dụng AI cho mục đích quân sự. Ý kiến của ông thế nào?

Tôi cực lực phản đối sử dụng AI cho mục đích chiến tranh.

- Thậm chí kể cả việc sử dụng AI mà không gây tổn hại bất cứ gì?

Tôi không muốn ngăn chặn chuyện đó. Nhưng, việc tích hợp AI vào robot chiến đấu là vô nhân đạo. Chúng ta cần phải thay đổi văn hóa sử dụng AI, đồng nghĩa với việc thay đổi luật pháp và các công ước. Một chặng đường dài cần phải chuẩn bị.

Đương nhiên, không ai có thể ngăn chặn hoàn toàn và mọi người sẽ lại đồn đoán rằng "không nước này thì nước khác, nhất là mấy đất nước đang khủng bố". Tôi nhấn mạnh rằng chúng ta phải làm cho họ cảm thấy tội lỗi bởi việc đó nhưng việc xây dựng hệ thống phòng thủ là chuyện hiển nhiên. Khác biệt lớn nhất ở vấn đề này đó là hệ thống phòng thủ nhắm vào robot còn vũ khí AI nhắm vào người, tuy cả hai đều sử dụng trí thông minh nhân tạo.

- Các chuyên gia AI có nên làm việc cho quân đội để đảm bảo mọi thứ theo đúng luật?

Họ nên như thế nếu họ giữ vững đạo đức nghề nghiệp.

- Ông hứng thú điều gì nhất trong những ngành nghiên cứu AI mới nổi?

Tôi nghĩ chúng ta nên chú trọng vào những thách thức mà AI sẽ gặp phải hơn là hài lòng với thứ trước mắc. Tôi không nói rằng tôi sẽ bỏ qua deep learning. Mặt khác, tôi muốn lấy nó làm nền tảng để phát triển.

Nhưng, chúng ta phải dạy nó nhiều hơn nữa, đồng thời thúc đẩy AI học hỏi một cách tự nhiên và tự khám phá thế giới, xây dựng hành vi nhân quả. Để AI suy nghĩ được như con người cần cả một khoảng đầu tư dài hạn và những nhà khoa học chứ không ai khác phải tiếp tục nhiệm vụ đó.

- Ông nhấn mạnh đến từ "nhân quả", tại sao nó quan trọng và tại sao khó đạt được như vậy?

Nếu chúng ta xây dựng được một khung mẫu nhân quả của hiện tại, AI có thể tự ứng biến với những tình huống khó ngờ nhất. Con người chúng ta có khả năng đặc biệt đó là tự điều chỉnh bản thân phù hợp so với những trải nghiệm đã gặp. Máy móc thì không như vậy bởi vì chúng chưa có hình mẫu nhân quả.

Chúng ta có thể phác thảo nhưng chúng vẫn còn rất sơ sài. Chúng ta cần những cỗ máy có thể tự xây dựng hình mẫu nhân quả. Cho đến một hạn mức không thể hoàn hảo. Lý do là vì hình mẫu nhân quả hoàn hảo không hề tồn tại, chúng ta luôn luôn mắc lỗi. Nhưng, chúng ta biết cải thiện bản thân hơn hẳn nhiều loài động vật khác.

Chúng ta tuy vẫn chưa có thuật toán cho vấn đề đó nhưng nếu mọi người tập trung làm việc và nghiên cứu, chúng ta sẽ thu được những bước tiến đáng kể.