TRÍ TUỆ NHÂN TẠO SẼ THÔNG MINH HƠN CHÚNG TA?

STEPHEN HAWKING

Trích: Trả Lời Ngắn Gọn Những Câu Hỏi Lớn; Nguyên tác: Brief Answer to the Big Questions; Việt dịch: Nguyễn Văn Liễn; NXB. Trẻ, 2020

Trí tuệ là trung tâm của những gì được ngụ ý là nhân loại. Mọi thứ mà nền văn minh mang lại đều là sản phẩm của trí tuệ con người. DNA chuyển giao bản thiết kế sự sống giữa các thế hệ. Các dạng sống ngày càng phức tạp thu nhận thông tin từ các giác quan, như mắt và tai, và xử lý thông tin ở não hay các hệ khác để biết được cách thức hành động và rồi tác động lên thế giới, chẳng hạn, bằng cách truyền thông tin tới các cơ. Tại thời điểm nào đó trong 13,8 tỷ năm lịch sử vũ trụ của chúng ta, một thứ tuyệt đẹp đã xảy ra. Quá trình xử lý thông tin này đã thông minh đến mức các dạng sống trở nên có ý thức. Giờ thì vũ trụ của chúng ta thức tỉnh, có được nhận thức về chính mình. Tôi xem điều này là một thành tựu to lớn mà chúng ta, những kẻ chỉ là một thứ bụi sao, đã đạt tới sự hiểu biết chi tiết về vũ trụ mà mình đang sống.

Tôi cho là không có sự khác nhau đáng kể giữa cách thức hoạt động của bộ não con giun đất và cách thức một máy tính thực hiện tính toán. Tôi cũng tin rằng sự tiến hóa ngụ ý rằng không có sự khác nhau về chất giữa bộ não của giun đất và của con người. Từ đó suy ra rằng, về nguyên tắc, các máy tính có thể cạnh tranh với trí thông minh con người, thậm chí còn giỏi hơn. Rõ ràng là, một thứ gì đó có thể sở hữu trí thông minh cao hơn tổ tiên của nó: chúng ta đã tiến hóa trở nên thông minh hơn tổ tiên kiểu linh trưởng của mình, và Einstein thông minh hơn cha mẹ ông ấy.

Nếu máy tính tiếp tục tuân theo định luật Moore, nhân đôi tốc độ và dung lượng bộ nhớ của chúng sau mỗi 18 tháng, thì hệ quả là máy tính có lẽ sẽ vượt qua con người về trí thông mỉnh ở thời điểm nào đó trong 100 năm tới. Khi trí tuệ nhân tạo (Artifcial Intelligence – AI) trở nên giỏi hơn con người trong việc thiết kế AI, đến nỗi nó có thể liên tiếp tái cải tiến mình mà không cần sự trợ giúp của con người, chúng ta có thể sẽ đối mặt với một cuộc bùng nổ trí thông minh, mà nó cuối cùng sẽ cho ra các máy tính có trí tuệ vượt trội chúng ta còn hơn cả chúng ta vượt trội những con ốc sên. Khi điều đó xảy ra, chúng ta sẽ cần đảm bảo rằng máy tính có các mục tiêu tương đồng với mục tiêu của chúng ta. Thật quá vội vã khi bác bỏ khái niệm những cỗ máy cực thông minh, coi đó chỉ như khoa học giả tưởng, và việc này có thể là một sai lầm, một sai lầm tồi tệ nhất từng có của chúng ta.

Trong khoảng 20 năm trở lại đây, AI đã được tập trung vào các vấn đề xoay quanh việc thiết kế các tác nhân thông minh, các hệ lĩnh hội và hành động trong những môi trường đặc thù. Trong bối cảnh này, trí thông minh liên quan tới các ý niệm thống kê và kinh tế của sự hợp lý hóa – tức là, nói theo cách thông thường, khả năng đưa ra những quyết định, những kế hoạch hoặc kết luận đúng đắn. Theo kết quả nghiên cứu gần đây, đã có sự kết hợp và liên kết-chéo rất sâu giữa AI, học-máy (machine-learning), thống kê, lý thuyết điều khiển, khoa học thần kinh và các lĩnh vực khác. Việc xác lập các khuôn khổ lý thuyết chia sẻ được, kết hợp với sự khả dụng của dữ liệu và khả năng xử lý, đã mang lại những thành công quan trọng trong các nhiệm vụ cấu thành khác nhau, như nhận dạng giọng nói, phân lớp hình ảnh, xe tự hành, dịch tự động, đi chuyển bằng chân (legged locomotion) và các hệ thống hỏi đáp. Khi sự phát triển trong những lĩnh vực này cũng như các lĩnh vực khác chuyển từ nghiên cứu trong phòng thí nghiệm thành công nghệ có giá trị kinh tế, thì một chu trình đặc hiệu diễn ra, nhờ đó ngay cả những cải tiến nhỏ trong hiệu suất cũng đáng giá rất nhiều tiền, thúc đẩy những sự đầu tư tiếp theo và càng lớn hơn vào nghiên cứu. Hiện có sự đồng thuận rộng rãi rằng nghiên cứu AI đang tiến bộ đều đặn và ảnh hưởng của nó lên xã hội đang có chiều hướng tăng lên. Lợi ích tiềm tàng là rất lớn; chúng ta không thể đoán trước được con người có thể đạt tới những gì khi trí thông minh này được nhân lên bởi các công cụ mà AI có thể cung cấp. Có thể là xóa bỏ hoàn toàn bệnh tật và đói nghèo. Do tiềm năng to lớn của AI, điều quan trọng là phải nghiên cứu cách thức gặt hái những lợi ích của nó đồng thời tránh các cạm bẫy nguy hiểm tiềm ẩn. Thành công trong việc sáng tạo AI sẽ là sự kiện lớn nhất trong lịch sử nhân loại.

Không may, nó có thể cũng là sự kiện cuối cùng, trừ phi chúng ta học được cách tránh các rủi ro. Được dùng như một bộ công cụ, AI có thể gia tăng trí thông minh hiện có của chúng ta để mở ra các tiến bộ trên mọi lĩnh vực của khoa học và xã hội. Tuy nhiên, nó cũng mang đến những mối hiểm nguy. Trong khi các dạng đơn giản của trí tuệ nhân tạo được phát triển cho đến nay tỏ ra rất có ích, tôi lo ngại về các hệ lụy của việc tạo ra những thứ có thể ngang cơ hoặc vượt trội hơn con người. Điều cần lo lắng là AI có thể tách ra tự vận hành và tái thiết kế mình với tốc độ tăng lên mãi. Con người, bị giới hạn bởi tiến hóa sinh học chậm chạp, không thể cạnh tranh và sẽ bị chiếm chỗ. Hơn nữa, trong tương lai, AI có thể phát triển ý chí của riêng mình, một ý chí mâu thuẫn với ý chí của chúng ta. Những người khác tin rằng con người có thể điều khiển tốc độ phát triển của công nghệ trong một thời gian dài, và rằng tiềm năng của AI trong việc giải quyết nhiều vấn đề của thế giới sẽ được hiện thực hóa. Mặc dù nổi tiếng là một người lạc quan về loài người, nhưng tôi không dám chắc về điều này.

Chẳng hạn, trong ngắn hạn, các lực lượng quân sự trên thế giới bắt đầu xem xét chạy đua vũ trang về hệ thống vũ khí tự trị, mà chúng có thể lựa chọn và loại bỏ các mục tiêu của riêng chúng. Trong khi Liên Hợp Quốc đang thảo luận một hiệp ước chính thức để cấm các vũ khí như thế, thì những người đề xướng vũ khí tự trị thường quên câu hỏi quan trọng nhất. Đâu là điểm cuối của cuộc chạy đua vũ trang, và liệu đó có phải là điều mà loài người mong muốn? Chúng ta có thực sự muốn các vũ khí AI giá rẻ trở thành súng Kalashnikov1 của ngày mai, được bán cho bọn tội phạm và khủng bố ở chợ đen? Với sự lo lắng về khả năng duy trì kiểm soát dài hạn đối với các hệ thống AI tiến bộ không ngừng, liệu chúng ta có nên vũ trang chúng và giao việc phòng vệ của mình cho chúng? Năm 2010, các hệ thống thương mại máy tính hóa đã gây ra Flash Crash2 trên thị trường chứng khoán; một sự cố như vậy do máy tính gây ra sẽ như thế nào trong lĩnh vực quốc phòng? Thời điểm tốt nhất để chấm dứt chạy đua vũ trang về vũ khí tự trị chính là bây giờ. Trong dài hạn, AI có thể tự động hóa công việc của chúng ta, mang lại cả sự phồn vinh lẫn bình đẳng. Nhìn xa về phía trước, không có giới hạn mang tính nguyên tắc cơ bản nào về những thứ có thể đạt được. Không có định luật vật lý nào ngăn cản việc các hạt tổ chức lại theo những cách để thực hiện các tính toán thậm chí tiên tiến hơn so với cách sắp xếp của các hạt trong não người. Một chuyển đổi vô cùng mạnh mẽ có thể xảy ra, cho dù nó có thể sẽ khác với phim ảnh. Như nhà toán học Irving Good đã nhận ra vào năm 1965, rằng máy móc với trí thông minh siêu phàm có thể cải tiến không ngừng thiết kế của mình thậm chí tiến xa hơn, mà nhà văn khoa học giả tưởng Vernor Vinge gọi là kỳ dị công nghệ (technological singularity). Người ta có thể tưởng tượng công nghệ như thế sẽ trội hơn thị trường tài chính, thông mình hơn các nghiên cứu viên con người, giỏi điều khiển hơn các lãnh đạo viên con người và buộc chúng ta khuất phục một cách dễ dàng bằng các vũ khí mà chúng ta thậm chí không thể hiểu nổi. Trong khi ảnh hưởng ngắn hạn của AI phụ thuộc vào việc ai điều khiển nó, thì ảnh hưởng dài hạn phụ thuộc vào việc ta có thể điều khiển được nó hay không.

Nói tóm lại, sự ra đời của AI siêu thông minh sẽ là sự kiện hoặc là tuyệt vời nhất hoặc là tồi tệ nhất từng xảy ra với nhân loại. Nguy cơ thực sự với AI không phải là ác ý mà là năng lực. AI siêu thông minh sẽ cực kỳ hữu ích trong việc hoàn thành các mục tiêu của nó, và nếu các mục tiêu này không song trùng với mục tiêu của chúng ta thì chúng ta sẽ gặp rắc rối. Có lẽ bạn không phải là một người căm ghét kiến, giẫm chân lên bầy kiến không do ác ý, nhưng nếu bạn đảm trách một dự án thủy điện năng lượng xanh và có một tổ kiến trong vùng sẽ bị ngập nước, thì quá tồi tệ với lũ kiến. Xin phép không đặt loài người vào vị trí của những con kiến này. Ta phải hoạch định trước. Nếu một nền văn minh ngoài Trái Đất vượt trội hơn gửi chúng ta một tin nhắn nói rằng, “Chúng tôi sẽ tới trong vài thập niên nữa; liệu chúng ta sẽ chỉ đơn giản trả lời, “OK, hãy gọi cho chúng tôi khi các bạn tới đây, chúng tôi sẽ để đèn sáng”? Chắc là không, mà đây ít nhiều chính là điều xảy ra với AI. Một nghiên cứu không quá nghiêm túc được dành cho các vấn đề này, ngoài một vài cơ sở phi lợi nhuận nhỏ.

May mắn là, giờ đây điều này đang thay đổi. Các bậc tiên phong về công nghệ, Bill Gates, Steve Wozniak và Elon Musk, đã đáp lại những lo lắng của tôi, và sự trao đối lành mạnh về đánh giá và cảnh báo nguy cơ về các tác động xã hội đang bén rễ trong cộng đồng AI. Vào tháng Giêng 2015, tôi cùng Elon Musk và nhiều chuyên gia AI đã ký một bức thư ngỏ về trí tuệ nhân tạo, kêu gọi nghiên cứu nghiêm túc các tác động xã hội của nó. Trước đây, Elon Musk đã cảnh báo rằng trí tuệ nhân tạo siêu phàm có khả năng cung cấp những lợi ích không thể đong đếm nổi, nhưng nếu triển khai không cẩn trọng nó sẽ có tác động tai hại đến loài người. Ông ấy và tôi có chân trong ban cố vấn khoa học của Viện Tương lai của Sự sống (Future of Life Institute), một tổ chức hoạt động nhằm giảm nhẹ những nguy cơ đang hiện hữu mà loài người phải đối mặt, và viện này đã khởi thảo bức thư ngỏ ấy. Bức thư kêu gọi nghiên cứu cụ thể về cách thức chúng ta có thể ngăn ngừa các rắc rối tiềm ẩn trong khi vẫn gặt hái những lợi ích tiềm năng mà AI mang lại, và được phác thảo để các nhà nghiên cứu và phát triển AI chú ý nhiều hơn đến an toàn AI. Thêm vào đó, với những nhà hoạch định chính sách và công chúng nói chung, bức thư nhằm nâng cao hiểu biết chứ không phải cảnh báo gây hoang mang. Chúng tôi cho là, việc để mọi người biết rằng các nhà nghiên cứu AI đang suy nghĩ nghiêm túc về những nỗi lo này và các vấn đề đạo đức liên quan là điều rất quan trọng. Chẳng hạn, AI có khả năng xóa bỏ bệnh tật và đói nghèo, nhưng các nhà nghiên cứu phải nỗ lực để tạo ra AI có thể kiểm soát được.

Vào tháng Mười 2016, tôi mở một trung tâm mới ở Cambridge, cố gắng giải quyết một số vấn đề chưa có hồi kết nổi lên do tốc độ phát triển nhanh chóng của việc nghiên cứu AI. Trung tâm Tương lai của Trí tuệ Leverhulme (The Leverhulme Centre for the Future of Intellegence) là một cơ sở đa ngành, chuyên nghiên cứu tương lai của trí tuệ như một vấn đề hết sức quan trọng với tương lai của nền văn minh và tương lai của giống loài chúng ta. Chúng ta đã dành rất nhiều thời gian nghiên cứu lịch sử, mà nó, chúng ta đành phải thừa nhận rằng, chủ yếu là lịch sử của sự ngốc nghếch. Vì thế, một thay đổi đáng hoan nghênh là, thay vào đó, con người nên nghiên cứu tương lai của trí tuệ. Chúng ta ý thức được về các nguy hiểm tiềm tàng, mà có lẽ bằng các công cụ của cuộc cách mạng công nghệ mới này, chúng ta thậm chí có khả năng khắc phục những tác động có hại mà công nghiệp hóa đã gây ra cho thế giới tự nhiên.

Các diễn biến mới đây trong sự tiến bộ của AI bao gồm lời kêu gọi của Nghị viện châu Âu để phác thảo một bộ các quy tắc chi phối việc chế tạo robot và AI. Khá ngạc nhiên, bộ quy tắc này cũng bao gồm một dạng của nhân cách điện tử (electronic personhood), nhằm đảm bảo quyền và nghĩa vụ cho các AI tiên tiến và có năng lực nhất. Người phát ngôn của Nghị viện châu Âu bình luận rằng, khi ngày càng có nhiều lĩnh vực trong cuộc sống hằng ngày của chúng ta chịu ảnh hưởng lớn của robot, chúng ta cần đảm bảo rằng robot đang, và sẽ mãi phục vụ con người. Bản báo cáo trình lên Nghị viện châu Âu tuyên bố rằng thế giới đang ở đỉnh điểm của cuộc cách mạng robot công nghiệp mới. Người ta đang nghiên cứu, dù có hay không đưa ra các quyền chính thức cho robot như những người-điện tử, tương đương với định nghĩa chính thức về nhân vị tính hợp nhất, điều đó sẽ được chấp nhận. Tuy nhiên, cần nhấn mạnh rằng các nhà nghiên cứu và các nhà thiết kế phải luôn luôn đảm bảo để trong tất cả thiết kế robot đều có một công tác chết.

Điều này không giúp gì cho các nhà khoa học trên phi thuyền không gian với Hal, cỗ máy tính người-máy đang nổi loạn trong bộ phím 2001: A Space Odyssey, của Stanley Kubrick, nhưng đó là câu chuyện hư cấu. Chúng ta quan tâm đến thực tế. Lorna Brazell, một cố vấn ở hãng luật đa quốc gia Osborne Clarke, nói trong một báo cáo rằng chúng ta không dành cho cá voi và khỉ đột tư cách nhân vị tính, vậy nên không cần thiết phải nhảy bổ vào nhân vị tính robot. Nhưng phải có sự cảnh giác. Bản báo cáo thừa nhận khả năng trong vòng vài thập niên, AI có thể vượt qua khả năng trí tuệ con người và thách thức mối quan hệ con người-robot.

Vào năm 2025, sẽ có khoảng ba mươi siêu đô thị, mỗi nơi có hơn mười triệu dân. Tất cả những con người này to tiếng yêu cầu hàng hóa và dịch vụ phải được chuyển đến bất kỳ đâu mà họ muốn, liệu công nghệ có thể giúp chúng ta theo kịp khao khát của bản thân về thương mại tức thời không? Robot chắc chắn sẽ tăng tốc quá trình bán lẻ trên mạng. Tuy nhiên, để cách mạng hóa việc mua hàng, robot phải đủ nhanh để có thể giao hàng trong ngày cho mọi đơn hàng.

Các cơ hội để tương tác với thế giới, không cần phải thực sự hiện hữu, đang tăng lên nhanh chóng. Như bạn có thể tưởng tượng, tôi thấy điều đó thật hấp dẫn, nhất là bởi vì với tất cả chúng ta, cuộc sống đô thị quá bận rộn. Đã bao nhiêu lần bạn ước giá mà có một bản sao, người có thể chia sẻ gánh nặng công việc với bạn? Tạo ra những người đại điện kỹ thuật số hiện thực của bản thân chúng ta là một giấc mơ đầy tham vọng, nhưng công nghệ mới nhất cho rằng đó có thể không phải là một ý tưởng quá cường điệu như ta tưởng ban đầu.

Khi tôi còn trẻ hơn, sự tiến bộ của công nghệ đã hé lộ về một tương lai, ở đó chúng ta sẽ thụ hưởng nhiều thời gian nhàn rỗi hơn. Tiếc là, trong thực tế chúng ta càng làm thì lại càng trở nên bận bịu hơn. Các thành phố của chúng ta đầy rẫy những máy móc, chúng mở rộng khả năng của chúng ta, nhưng nếu chúng ta có thể hiện diện ở hai nơi cùng một lúc thì sao? Chúng ta đã quen với những giọng nói tự động trên hệ thống điện thoại và các thông báo công cộng. Giờ đây nhà sáng chế Daniel Kraft đang nghiên cứu cách thức chúng ta có thể tạo một bản sao của chính mình về mặt thị giác. Vấn đề là, làm thế nào để một hóa thân có thể thật sự thuyết phục?

Các trợ giáo tương tác có thể chứng tỏ là có lợi cho các chương trình đào tạo đại chúng trên mạng và cho ngành giải trí. Một điều thực sự hứng thú – các diễn viên kỹ thuật số sẽ trẻ mãi và mặt khác có khả năng thực hiện các kỳ tích bất khả thi. Những thần tượng tương lai của chúng ta thậm chí có thể là không có thật.

Cách thức chúng ta giao kết với thế giới số là chìa khóa cho tiến bộ mà chúng ta sẽ đạt được trong tương lai. Ở những thành phố thông minh nhất, những ngôi nhà thông minh sẽ được trang bị các thiết bị trực quan rất cao nên ta có thể dễ dàng tương tác với chúng.

Chú thích

  1. Súng trường tự động, còn gọi là súng tiểu liên AK, loại súng quân dụng phổ biến trước đây — ND.
  2. Flash crash là một sự kiện xảy ra trong thị trường chứng khoán điện tử, trong đó, việc rút lệnh cổ phiếu nhanh chóng đã khuếch đại sự tụt giá chứng khoán. Kết quả là một đợt bán tháo chứng khoán nhanh chóng xảy ra trong vài phút, dẫn đến sự sụt giảm nghiêm trọng — ND.

Bình luận


Bài viết liên quan

  1. ALGOSPEAK: LỰA LỜI MÀ NÓI CHO VỪA LÒNG… AI

Bài viết khác của tác giả

  1. VƯỢT QUA GIỚI HẠN BỆNH TẬT ĐỂ THỰC HIỆN ƯỚC MƠ
  2. VÌ SAO CHÚNG TA CẦN ĐẶT RA NHỮNG CÂU HỎI LỚN?
  3. LỜI BẠT

Bài viết mới

  1. BA LA MẬT THỨ HAI: ĐẠO ĐỨC HAY HÀNH VI ĐÚNG ĐẮN
  2. BA MỤC ĐÍCH LỚN TRONG CUỘC SỐNG
  3. NHỮNG ĐAU KHỔ DO CHÍNH MÌNH TẠO RA