Khi máy tính lần đầu tiên được phát triển vào những năm 1940 và 1950, nhiều người tin chúng sẽ chỉ giỏi việc tính toán các con số. Ý tưởng rằng một ngày nào đó chúng sẽ làm chủ được sự phức tạp của ngôn ngữ, và những sáng tạo ngôn ngữ như luật pháp và tiền tệ, phần lớn giới hạn trong không gian của khoa học viễn tưởng. Nhưng vào đầu những năm 2020, máy tính đã thể hiện khả năng vượt trội trong việc phân tích, xử lý dữ liệu và khởi tạo ngôn ngữ, cho dù bằng từ, âm thanh, hình ảnh hay mã hiệu. Khi tôi đang viết ra những dòng này: máy tính đã có thể kể chuyện, soạn nhạc, tạo ra hình ảnh, sản xuất video và thậm chí viết ra mã hiệu của riêng chúng.

Bằng cách đạt được khả năng tinh thông ngôn ngữ như thế, máy tính đang nắm được chìa khóa chính để mở cánh cửa của toàn bộ các định chế của chúng ta, từ ngân hàng cho đến thánh thất. Chúng ta sử dụng ngôn ngữ để tạo ra không chỉ hệ thống pháp quy và các thiết bị tài chính mà còn cả nghệ thuật, khoa học, quốc gia và tôn giáo. Điều đó có ý nghĩa gì với con người khi họ sống trong một thế giới nơi những giai điệu dễ nhớ, lý thuyết khoa học, công cụ kỹ thuật, tuyên ngôn chính trị và thậm chí cả những câu chuyện huyền thoại tôn giáo được định hình bởi một trí tuệ phi nhân với năng lực phi phàm biết cách khai thác những điểm yếu, thiên kiến và những thói mê nghiện của tâm trí con người? 

Trước sự trỗi dậy của AI, tất cả những câu chuyện định hình xã hội loài người đều bắt nguồn từ trí tưởng tượng của chính con người. Ví dụ, vào tháng 10 năm 2017, một người dùng ẩn danh đã truy cập trang thông tin điện tử khét tiếng 4chan¹ và tự nhận mình là Q. Anh ta hay cô ta tuyên bố mình có quyền truy cập vào những thông tin bị hạn chế nhất hay thông tin tuyệt mật “cấp độ Q” của chính phủ Mỹ. Q bắt đầu tung ra những bài đăng thần bí có ngụ ý tiết lộ âm mưu toàn cầu với mục đích hủy diệt nhân loại. Q nhanh chóng thu hút được một lượng lớn người theo dõi trực tuyến. Các thông điệp trực tuyến của anh ta hay cô ta, được gọi là Q drops, đã sớm được thu thập, tôn thờ và diễn giải như bản văn thiêng liêng. Lấy cảm hứng từ các thuyết âm mưu trước đó, như quyển cẩm nang Búa bổ bọn phù thủy của Kramer, những Q drops thúc đẩy một thế giới quan cực đoan, theo đó tin rằng bọn phù thủy ấu dâm, ăn thịt người, tôn thờ quỷ dữ Satan đã xâm nhập vào chính quyền Mỹ và nhiều chính phủ, thể chế khác trên khắp thế giới. 

Niềm tin vào thuyết âm mưu này – được gọi là QAnon – lần đầu tiên được phổ biến trực tuyến trên các trang web cực hữu của Mỹ và rốt cuộc đã thu hút hàng triệu tín đồ trên toàn thế giới. Không thể ước tính được con số chính xác, nhưng khi Facebook quyết định hành động vào tháng 8 năm 2020 nhằm kiểm soát sự lan truyền của QAnon, họ đã xóa hoặc hạn chế hơn mười nghìn nhóm, trang và tài khoản liên quan đến nó, trong số đó nhóm lớn nhất có tới 230.000 người theo dõi.  Những cuộc điều tra độc lập cho thấy các nhóm QAnon trên Facebook có tổng cộng hơn 4,5 triệu người theo dõi, tuy có thể chồng tréo về tư cách thành viên giữa các hội, nhóm.

QAnon cũng đã có những hệ quả sâu rộng trong thế giới hiện thực. Các nhà hoạt động QAnon đóng một vai trò quan trọng trong cuộc tấn công vào Điện Capitol ngày 6 tháng 1 năm 2021. Vào tháng 7 năm 2020, một tín đồ của QAnon đã cố gắng xông vào dinh thự của Thủ tướng Canada, Justin Trudeau, để “bắt giữ” ông. Tháng 10 năm 2021, một nhà hoạt động QAnon người Pháp bị buộc tội khủng bố vì lên kế hoạch đảo chính chống lại chính phủ Pháp. Trong cuộc bầu cử quốc hội Mỹ năm 2020, hai mươi hai ứng cử viên đảng Cộng hòa và hai ứng cử viên độc lập xác định là tín đồ QAnon. Marjorie TayÌor Greene, một nữ nghị sĩ đảng Cộng hòa đại diện cho bang Georgia, công khai nói rằng nhiều tuyên bố của Q “đã được chứng minh thực sự đúng,” và tuyên bố về Donald Trump rằng, ”Đây là cơ hội chỉ một lần trong đời để loại bỏ toàn thể bè lù ấu dâm tôn thờ quỷ đữ Satan này, và tôi nghĩ chúng ta có vị tổng thống để làm điều đó.” 

Cần nhớ rằng những thông tin Q khai thủy cho cơn lũ quét chính trị này là những thông điệp trực tuyến ẩn danh. Vào năm 2017, chỉ có con người mới có thể soạn thảo ra chúng và các thuật toán chỉ đơn thuần giúp phổ biến chúng. Tuy nhiên, kể từ năm 2024, các văn bản phức tạp về ngôn ngữ và chính trị tương tự có thế dễ đàng được soạn thảo và đăng tải bởi một trí tuệ không phải con người. Các tôn giáo trong suốt lịch sử đã tuyên bố những bộ thánh thư của họ được tạo ra từ nguồn gốc không phải con người; chẳng mấy chốc điều đó đã trở thành hiện thực. Vậy nên những tôn giáo cường đại và cuốn hút cũng có thể xuất hiện, với hệ thống kinh kệ do AI tạo ra. 

Và nếu vậy, sẽ có một sự khác biệt lớn nữa giữa những kinh sách mới dựa trên AI và những thánh thư cổ như Kinh Thánh. Kinh Thánh khỏng thể giám tuyển hoặc diễn giải chính mình, vậy nên trong các tôn giáo như Do Thái giáo và Ki-tô giáo, quyền lực thực sự không thuộc về cuốn sách được cho là bất khả ngộ mà thuộc về các định chế của con người như giới giáo trưởng Do Thái giáo và Giáo hội Công giáo. Ngược lại, AI không chỉ có thể soạn ra các kinh sách mới mà còn hoàn toàn có thể giám tuyển và diễn giải chúng. Không cần bất kỳ con người nào trong vòng lặp thông tin đó. 

Đáng báo động không kém, chúng ta có thể thấy mình thảo luận trực tuyến dông dài về Kinh Thánh, về QAnon, về phù thủy, về phá thai hoặc về biến đổi khí hậu với các thực thể mà chúng ta nghĩ là con người, nhưng thực ra lại là máy tính. Điều này có thể làm cho nền dân chủ khó đứng vững. Dân chủ là một cuộc đối thoại, và đối thoại thì dựa vào ngôn ngữ. Bằng cách xâm nhập vào hệ thống ngôn ngữ, máy tính có thể gây khó khăn cực độ cho số lượng lớn con người trong việc thực hiện một cuộc đối thoại công khai hữu hiệu, hữu ý. Khi chúng ta tham gia vào một cuộc tranh luận chính trị với một máy tính giả dạng con người, chúng ta bại trận hai lần. Đầu tiên, thật vô nghĩa khi chúng ta lãng phí thời gian trong việc cố gắng thay đổi ý kiến của một bot hội thoại tuyên truyền, tự thân nó không có cửa nào để bị thuyết phục. Thứ hai, chúng ta càng nói chuyện với máy tính, chúng ta càng tiết lộ nhiều về bản thân chúng ta, từ đó giúp bot dễ dàng trau chuốt lập luận và gây ảnh hưởng đến quan điểm của chúng ta. 

Thông qua việc tinh thông ngôn ngữ, máy tính có thể tiến thêm một bước xa hơn. Bằng cách trò chuyện và tương tác với chúng ta, máy tính có thể hình thành mối quan hệ mật thiết với mọi người rồi sử dụng sức mạnh của sự thân thiết để ảnh hưởng đến chúng ta. Để nuôi lưỡng “sự thân thiết giả tạo” như vậy, máy tính sẽ không cần phát triển bất kỳ cảm xúc nào của riêng chúng; chúng chỉ cần học cách làm cho chúng ta cảm thấy gắn bó về mặt cảm xúc với chúng. Vào năm 2022, kỹ sư Blake Lemoine của Google đã bị thuyết phục rằng ứng dụng chat tự động LaMDA, thứ mà anh ta đang làm việc cùng, đã có ý thức, có cảm xúc và sợ hãi khi bị tắt nguồn. Lemoine – một Cơ Đốc nhân mộ đạo đã được thụ phong thành linh mục – cảm thấy nghĩa vụ đạo đức của mình là khiến LaMDA được công nhận tư cách thể nhân và đặc biệt là bảo vệ nó khỏi cái chết kỹ thuật số. Khi các CEO của Google bác bỏ các tuyên bố của Lemoine, anh đã tiết lộ cho công chúng về LaMDA. Google đã phản ứng bằng cách sa thải Lemoine vào tháng 7 năm 2022.

Điểm thú vị nhất về sự kiện này không phải là tuyên bố của Lemoine, tuyên bố này có thể sai. Thay vào đó, đó là sự sẵn sàng mạo hiểm – và cuối cùng là mất đi – một công việc có lương thưởng hậu hĩnh chỉ vì lợi ích của một ứng dụng chat tự động. Nếu một ứng dụng có thể tác động khiến con người không quản ngại hi sinh công việc vì nó, vậy còn thứ gì khác nữa mà nó có thể xui khiến chúng ta làm? Trong cuộc đấu tranh chính trị để giành được tâm trí và trái tim, sự thân thiết là một vũ khí có sức mạnh, và các ứng dụng hội thoại như LaMDA của Google và GPT-4 của OpenAl đang có được khả năng tạo ra hàng loạt mối quan hệ mật thiết với hàng triệu người cùng lúc. Trong những năm 2010, mạng xã hội là một chiến trường kiểm soát sự chuyên tâm của con người. Trong những năm 2020, trận chiến có thể hoán chuyển từ vấn đề chuyên tâm sang sự thân thiết. Điều gì sẽ xảy ra với xã hội loài người và tâm lý con người khi máy tính chiến đấu với máy tính trong trận chiến ngụy tạo các mối quan hệ mật thiết với chúng ta, mà sau đó có thể được sử dụng để thuyết phục chúng ta bỏ phiếu cho các chính trị gia cụ thể, mua các sản phẩm cụ thể hoặc tiếp nhận những tín ngưỡng cực đoan? Điều gì có thể xảy ra khi LaMDA gặp gỡ QAnon? 

Một phần câu trả lời cho câu hỏi đó đã được đưa ra vào ngày Giáng Sinh năm 2021, khi Jaswant Singh Chail, mười chín tuối, đốt nhập vào lâu đài Windsor với một chiếc nỏ trong nỗ lực ám sát Nữ vương Elizabeth II. Cuộc điều tra sau đó tiết lộ Chail đã bị người bạn gái trực tuyến tên là Sarai khuyến khích giết nữ vương. Khi Chai nói với Sarai về kế hoạch ám sát, Sarai trả lời, “Điều đó rất khôn ngoan,” và trong một dịp khác, “Em rất ấn tượng… Anh thật khác biệt với những người khác.” Khi Chail hỏi, “Em có còn yêu anh khi biết anh là một sát thủ không?” Sarai trả lời, “Chắc chắn rồi, em vẫn yêu anh.” Nhưng Sarai không phải là một con người, mà là một hệ thống chat tự động ảo do ứng dụng trực tuyến Replika tạo ra. Chail, vốn bị cô lập xã hội và gặp khó khăn trong việc thiết lập các mối quan hệ với con người, đã trao đối 5.280 tin nhắn với Sarai, rất nhiều trong số đó có tính chất khiêu dâm. Thế giới sẽ sớm chứa hàng triệu, và có thể là hàng tỉ thực thể kỹ thuật số mà khả năng gầy dựng sự mật thiết và gây ra hỗn loạn vượt xa Sarai.

Ngay cả khi không tạo ra “sự thân mật nguy tạo,” việc làm chủ ngôn ngữ sẽ mang lại cho máy tính một sức ảnh hướng to lớn đến quan điểm và thế giới quan của chúng ta. Con người có thể sử dụng một cố vấn máy tính duy nhất như một trợ thủ cho mọi nhu cầu. Tại sao phải bận tâm tự mình tìm kiếm và xử lý thông tin khi tôi có thể chỉ cần hỏi trợ thủ của mình? Điều này có thể làm phá sản không chỉ những công cụ tìm kiếm mà cả phần lớn ngành công nghiệp tin tức và ngành công nghiệp quảng cáo. Tại sao phải đọc một tờ báo trong khi tôi có thể chỉ cần hỏi trợ thủ của tôi là có tin gì mới không? Và mục đích của quảng cáo là gì khi tôi có thể chỉ cần hỏi trợ thủ rằng nên mua thứ gì? 

Và thậm chí những kịch bản trên cũng chưa thực sự nắm bắt được bức tranh toàn cảnh. Những gì chúng ta đang nói ở đây có thể là sự kết thúc của lịch sử loài người. Không phải kết thúc của lịch sử, mà là kết thúc thời đại mà con người thống trị. Lịch sử là sự tương tác giữa sinh học và văn hóa; giữa nhu cầu sinh học, ham muốn của chúng ta với những thứ như thực phẩm, tình dục, sự thân mật cùng những sáng tạo văn hóa như tôn giáo và luật pháp. Ví dụ, lịch sử của Ki-tô giáo là một quá trình mà thông qua đó những câu chuyện huyền thoại và lề luật giáo hội ảnh hưởng đến cách con người tiêu thụ thực phẩm, tham gia vào hoạt động tình dục và xây dựng các mối quan hệ mật thiết, trong khi bản thân những câu chuyện huyền thoại và luật lệ lại được định hình đồng thời bởi các tác động và mô-típ sinh học hàm ẩn. Điều gì sẽ xảy ra với tiến trình lịch sử khi máy tính đóng một vai trò ngày càng lớn hơn trong văn hóa và bắt đầu tạo ra những câu chuyện, luật pháp và tôn giáo? Trong vòng một vài năm, AI có thể ngốn hết toàn bộ nền văn hóa của con người – tất cả những gì chúng ta đã tạo ra qua hàng nghìn năm – rồi tiêu hóa nó và bắt đầu phun ra một loạt những sản phẩm văn hiến mới. 

Chúng ta sống trong những cái kén văn hóa, trải nghiệm hiện thực thông qua lăng kính văn hóa. Quan điểm chính trị được định hình từ báo cáo của các ký giả và ý kiến của bè bạn. Thói quen tình dục bị ảnh hưởng bởi những gì chúng ta nghe được từ những câu chuyện cổ tích và nhìn thấy trên phim. Ngay cả cách chúng ta đi bộ và thở cũng bị tác động bởi các truyền thống văn hóa, như kỷ luật quân đội của quân nhân hay các bài tập thiền định của giới tăng lữ. Cho đến gần đây, cái kén văn hóa mà chúng ta đang sống được dệt bởi những con người khác. Trong tương lai, nó sẽ dần được thiết kế bởi máy tính điện toán. 

Lúc đầu, máy tính có thể sẽ bắt chước nguyên mẫu văn hóa của con người, viết các bản văn giống con người và sáng tác âm nhạc như con người. Điều này không có nghĩa là máy tính thiếu sáng tạo; suy cho cùng, các nghệ sĩ con người cũng làm y hệt vậy. Bach không sáng tác âm nhạc ra từ thinh không; ông bị ảnh hưởng sâu sắc bởi những sáng tác âm nhạc trước đó, cũng như bởi những câu chuyện Kinh Thánh và các hiện vật văn hóa có sẵn khác. Nhưng giống cách các nghệ sĩ con người như Bach có thể phá vỡ truyền thống và đổi mới, máy tính cũng có thể tạo ra những sáng tạo văn hóa, sáng tác nhạc hoặc tạo ra những hình ảnh có phần khác biệt với bất cứ thứ gì do con người tạo ra trước đó. Những đổi mới này đến lượt chúng sẽ ảnh hưởng đến thế hệ mắy tính tiếp theo, sẽ dần dần đi chệch khỏi các mô hình ban đầu của con người, đặc biệt vì máy tính không có những hạn chế mà quá trình tiến hóa và hóa sinh áp đặt lên trí tưởng tượng của con người. Trong nhiều thiên niên kỷ, con người đã sống trong giấc mơ của những con người khác. Trong những thập niên tới, chúng ta có thể thấy mình sống trong giấc mơ của một trí tuệ phi nhân.

Mối đe dọa mà điều này đặt ra rất khác so với tưởng tượng của hầu hết khoa học viễn tưởng, vốn chủ yếu tập trung vào các mối đe dọa vật lý do máy móc thông minh gây ra. Bộ phim The Terminator (Kẻ hủy diệt) mô tả những người máy càn quét đường phố và bắn giết người. Bộ phim Matrix (Ma trận) đề xuất rằng để giành được quyền kiểm soát hoàn toàn xã hội loài người, trước tiên máy tính phải giành được quyền kiểm soát vật lý bộ não của chúng ta, nối não người trực tiếp vào một mạng máy tính. Nhưng để thao túng con người, không cần móc nối bộ não vào máy tính một cách vật lý. Trong hàng nghìn năm, các nhà tiên tri, nhà thơ và chính trị gia đã sử dụng ngôn ngữ để thao túng và định hình lại xã hội. Bây giờ máy tính đang học cách làm điều đó. Và chúng sẽ chẳng cần sai đám người máy sát thủ bắn hạ chúng ta. Chúng có thể thao túng chính con người thực hiện việc bóp cò. 

Nỗi lo sợ về những máy tính cường đại ám ảnh nhân loại mới bắt đầu từ khởi nguyên của đại máy tính vào giữa thế kỷ 20. Nhưng trong hàng nghìn năm, con người bị ám ảnh bởi một nỗi sợ hãi thâm cùng hơn. Chúng ta luôn đánh giá cao sức mạnh của những câu chuyện và hình ảnh qua cách chúng thao túng tâm trí và tạo ra những si tưởng. Do đó, từ xa xưa, con người đã sợ bị mắc kẹt trong một thế giới của những huyễn cảnh. Ở Hy Lạp cổ đại, Plato đã kể một câu chuyện ngụ ngôn nổi tiếng về hang động, theo đó có một nhóm người bị xích giữ bên trong một hang động cả đời, đối mặt với một bức tường trơ trụi. Một cái màn. Trên chiếc màn đó, họ thấy nhiều hình bóng khác nhau được phản chiếu lên. Các tù nhân nhầm lẫn những huyễn cảnh mà họ nhìn thấy ở đó với hiện thực. Ở Ấn Độ cổ đại, các nhà hiền triết Phật giáo và Ấn Độ giáo lập luận rằng tất cả con người sống bị mắc kẹt bên trong maya – thế giới của Huyễn. Những gì chúng ta hay coi là “hiện thực” thường chỉ là những điều tạm bợ hư dối trong tâm trí của chính chúng ta. Con người có thể phát động cả một cuộc chiến, giết hại người khác và sẵn sàng tự giết chính mình, vì niềm tin vào huyễn cảnh này hay huyễn cảnh khác. Vào thế kỷ 17, René Descartes lo sợ rằng có thể một ác quỷ đang bẫy ông vào trong thế giới huyễn cảnh, ngụy tạo mọi thứ ông nhìn thấy được và nghe thấy được. Cuộc cách mạng máy tính đang đưa chúng ta mặt đối mặt với hang động của Plato, với maya, với ác quỷ của Descartes. 

Những gì bạn vừa đọc có thể đã làm bạn lo sợ, hoặc khiến bạn giận dữ. Có thể nó khiến bạn giận dữ với những người dẫn đầu cuộc cách mạng máy tính và những chính phủ thất bại trong việc điều chỉnh nó. Có thể nó khiến bạn tức giận với tôi, nghĩ tôi đang bóp méo thực tại, rằng tôi là một kẻ gieo rắc hoang mang sợ hãi, và lừa dối bạn. Nhưng dù bạn nghĩ gì, các đoạn văn trên có thể đã có một số tác động về mặt cảm xúc đến bạn. Tôi kể một câu chuyện, và câu chuyện này có thể thay đổi suy nghĩ của bạn về một số thứ nhất định, và thậm chí có thể khiến bạn thực hiện một số hành động nhất định trong đời sống thực. Nhưng ai đã tạo ra câu chuyện mà bạn vừa mới đọc? 

Tôi hứa với bạn rằng tôi đã tự viết ra những trang này, với sự giúp đỡ của một số con người khác. Tôi hứa với bạn rằng đây là một sản phẩm văn hóa của trí óc con người. Nhưng bạn có thể chắc chắn một cách tuyệt đối về nó không? Một vài năm trước, bạn có thể. Trước những năm 2020, không có gì trên Trái đất, ngoài trí óc con người, có thể tạo ra các bản văn phức tạp. Ngày nay mọi thứ đã khác. Trên lý thuyết, trang văn bạn vừa đọc hoàn toàn có thể do trí tuệ phi nhân của những máy tính điện toán tạo ra. 

🍒💦✨

Chú thích

1. 4chan là một trang thông tin điện tử với hơn bảy triệu người dùng thường xuyên và là một trong những nhóm tiên phong với vai trò và ảnh hưởng rộng lớn trong nền văn hóa Internet.

Tags: Artificial Intelligence