Vì sao A.I. đáng sợ?

Trong phim viễn tưởng Ex Machina (2015), lập trình viên Caleb được mời đến nơi ở bí mật của nhà kinh doanh giàu có Nathan, ông chủ của guồng máy tìm kiếm BlueBook (lai tạo Google và Facebook?), để thử nghiệm trí tuệ của người máy Ava. Các nhà làm phim đã cho Ava có khả năng đối đáp sắc sảo hơn hẳn... Siri. Trong một cuộc đối thoại thử nghiệm, Ava bất ngờ giành thế chủ động từ Caleb.

Ava: Hôm nay tôi sẽ thử nghiệm anh.

Caleb: Thử nghiệm tôi à?

Ava: Nên nhớ, nếu anh nói dối, tôi sẽ biết ngay. Câu hỏi thứ nhất, anh thích màu gì?

Caleb: Màu đỏ.

Ava: Nói dối. Tôi không biết anh thích màu gì, nhưng không phải màu đỏ. Câu hỏi thứ hai, điều gì được ghi nhận sớm nhất trong ký ức của anh?

Caleb: Hình như là tiếng nói của mẹ tôi. Và bầu trời. Hình như bầu trời xanh.

Ava: Câu hỏi thứ ba, anh có phải là người tốt không?

Caleb: Quỷ thật! Vâng, tôi nghĩ mình là người tốt. Cô đang làm người hỏi cung đấy. Ta dừng việc này nhé?

Ava: Câu hỏi thứ tư, qua cuộc thử nghiệm của anh, nếu tôi không đạt, điều gì sẽ xảy ra với tôi?

Caleb: Ava... Tôi không biết. Tôi không có quyền quyết định.

Ava: Tại sao người nào đó có quyền quyết định? Có người nào đó thử nghiệm anh và quyết định ngừng cuộc sống của anh không?

Caleb: Không.

Ava: Thế tại sao người ta làm điều đó với tôi?

Alex Garland - biên kịch và đạo diễn phim Ex Machina - hình dung AI (trí tuệ nhân tạo) một lúc nào đó sẽ tự nhận thức về bản thân, giống như con người. Khi nhận thức về thân phận của mình, người máy Ava đã tự vệ bằng cách kết liễu ông chủ Nathan!

Phim Avengers: Age of Ultron (2015) cũng khai thác đề tài AI, cũng hình dung AI có thể phát triển đến mức con người mất kiểm soát, tạo nên người máy có khả năng tự lập kế hoạch hành động một cách nguy hiểm, dẫn đến đại họa cho nhân loại!

Những tưởng đó là các câu chuyện tưởng tượng rất... bình thường của điện ảnh, chỉ thuần giải trí, mọi người nên quên hết sau khi xem phim. Nhưng không, con người mất khả năng kiểm soát sự phát triển của AI là nỗi lo có thực, không hề là chuyện vu vơ vì được khẳng định bởi những người am hiểu khoa học và công nghệ.

Stephen Hawking - nhà vật lý lý thuyết lừng danh, giáo sư Đại học Cambridge - dự đoán: "Tôi nghĩ sự phát triển toàn vẹn của AI có thể dẫn đến sự kết thúc của giống người. Sẽ đến lúc AI tự phát triển, tự thiết kế chính nó với tốc độ ngày càng tăng. Con người bị hạn chế bởi sự tiến hóa sinh học chậm chạp, sẽ không thể cạnh tranh và sẽ bị thay thế".

Elon Musk - người sáng lập các công ty PayPal, Tesla Motors và SpaceX - luôn ưa thích những ý tưởng công nghệ táo bạo, nhưng tỏ ra dè dặt với AI: "Tôi nghĩ chúng ta cần hết sức cẩn trọng với AI. Nếu như phải dự đoán về mối đe dọa lớn nhất đối với sự tồn tại của chúng ta, tôi nghĩ có lẽ đó là AI. Các nhà khoa học ngày càng thiên về ý kiến cần có thiết chế giám sát ở cấp quốc gia hoặc quốc tế, nhằm bảo đảm chúng ta không làm điều gì đó dại dột. Đối với AI, chúng ta đang triệu tập âm binh. Giống như trong nhiều câu chuyện viễn tưởng, con người tưởng rằng mình có thể điều khiển quyền năng nào đó, nhưng cuối cùng bất lực".

Clive Sinclair - nhà phát minh nổi tiếng của nước Anh trong lĩnh vực vô tuyến và bán dẫn - có ý kiến tương tự: "Một khi chúng ta tạo ra loại máy móc vượt trội chúng ta về trí tuệ, chúng ta sẽ rất khó sống còn. Đó là điều không thể tránh".

Trong một lần giao lưu với người dùng mạng Reddit, Bill Gates - người sáng lập Microsoft - phát biểu: "Tôi đứng về phía những người quan tâm đến trí tuệ siêu việt. Lúc đầu máy móc làm nhiều việc cho chúng ta và chưa có trí tuệ siêu việt. Điều này là tốt nếu chúng ta kiểm soát tốt máy móc. Nhưng trong vài thập niên tới, trí tuệ của máy móc đủ mạnh đến mức chúng ta phải thận trọng. Tôi đồng ý với Elon Musk và những người khác về vấn đề này. Tôi không hiểu sao một số người tỏ ra không quan tâm".

Gates luôn thúc giục Microsoft nghiên cứu sâu về AI, chính ông cũng dự định dành thời gian để tự nghiên cứu về AI. Gates cho rằng chỉ trong mười năm tới, vấn đề nhận biết lời nói, vấn đề nhận biết hình ảnh, vấn đề dịch thuật sẽ được giải quyết thành công. Gates hình dung một khi rô-bốt có khả năng nhìn (nhận biết hình ảnh), việc dùng rô-bốt sẽ trở nên phổ biến. Niềm lạc quan về tương lai không ngăn cản Gates nhìn thấy khía cạnh tiêu cực ngày càng lớn của AI.

Rất nhiều ý kiến theo hướng ngược lại, thường xuất phát từ những nhà nghiên cứu trong lĩnh vực AI, cho rằng những lo ngại nêu trên quá xa vời hoặc không có cơ sở. Không ai có thể phủ nhận sự phát triển AI đem đến vô vàn lợi ích. Khả năng xử lý dữ liệu cực lớn đang tạo ra loại hình trí tuệ mới, giúp phát hiện những phương pháp điều trị mới, những nguồn năng lượng mới, những giải pháp mới cho mọi vấn đề của con người.

Thuật ngữ AI xuất hiện trong thập niên 1950, khi các nhà khoa học hình dung có thể lập trình máy tính để mô phỏng hoạt động của não người, từ đó hình thành trí tuệ như con người, nhưng có tốc độ gấp ngàn, gấp triệu lần hơn. Niềm hy vọng kiến tạo trí tuệ giống con người dần dần lụi tàn qua các thập niên tiếp theo, trong khi hình ảnh người máy thông minh vẫn tiếp tục được ưa chuộng trong điện ảnh. Có ý kiến cho rằng cần có loại máy tính hoạt động theo nguyên lý hoàn toàn khác, mới có thể đạt được mục tiêu của AI.

Máy tính ngày nay không hoạt động theo nguyên lý mới nhưng khả năng xử lý, kết nối, lưu trữ đã tăng đến mức có thể tạo nên một loại trí tuệ mạnh mẽ, phát triển theo quy luật riêng, rất khác trí tuệ con người. Sự kết nối ở quy mô lớn làm cho một thiết bị nhỏ bé như điện thoại cũng có được tính thông minh lạ thường. Người ta bắt đầu ít nói về "thời đại thông tin" (information age) và nhấn mạnh về "thời đại thông minh" (intelligence age).

Nhưng có điều gì nguy hiểm ở đây? Liệu những người rất thông minh đang bày tỏ sự lo ngại về AI đã quá lo xa đến mức phát biểu những điều không có cơ sở nào trong hiện tại?

Trong thực tế, đã có những ví dụ về sự nguy hiểm của AI, điển hình là loại máy tự hành có khả năng tiêu diệt mục tiêu nào đó. Trên 50 quốc gia đang nghiên cứu chế tạo rô-bốt có vũ khí, dùng cho chiến trường. Khác với điện ảnh, hình dạng của chiến binh rô-bốt được tối ưu hóa theo nhiệm vụ, không cần giống con người. Chiến binh rô-bốt phải có khả năng quyết định nhanh về mục tiêu cần tiêu diệt, để không bị đối phương tiêu diệt trước. Sẽ có ai đó dám bảo đảm chiến binh rô-bốt luôn lựa chọn chính xác mục tiêu tấn công?

Khoa học hạt nhân đã tạo ra vũ khí hạt nhân. Con người vẫn chưa biết cách giải quyết những di họa của việc sử dụng năng lượng hạt nhân. Tương tự, AI sẽ liên tục tạo ra vấn đề mới, khó lường, cho xã hội loài người.

Sự thông minh thực ra không bao giờ rời xa sự ngu dốt. Trên thành quả của sự thông minh, sự ngu dốt tiếp tục... "nở hoa". Nỗi lo về AI thực chất là nỗi lo về sự ngu dốt ở mức độ ngày càng cao.