4

* * *

Bình Đẳng

AI NẮM DỮ LIỆU, NGƯỜI ĐÓ NẮM TƯƠNG LAI

TRONG VÀI thập kỷ trở lại đây, con người khắp nơi trên thế giới bảo nhau rằng nhân loại đang trên đường đến bình đẳng, rằng toàn cầu hóa và các công nghệ mới sẽ giúp chúng ta đến đó sớm hơn. Trên thực tế, thế kỷ 21 có thể sẽ tạo ra những xã hội bất bình đẳng nhất trong lịch sử. Mặc dù toàn cầu hóa và Intemet đã nối liền khoảng cách giữa các quốc gia, chúng lại đe dọa nới rộng hổ sâu ngăn cách giữa các tầng lớp. Và đúng lúc nhân loại có vẻ như sắp đạt đến sự hợp nhất toàn cầu thì bản thân giống loài chúng ta lại có thể chia thành các đẳng cấp sinh học khác nhau.

Bất bình đẳng có từ tận thời Đồ Đá. Ba mươi nghìn năm trước, các nhóm săn bắt-hái lượm, đã chôn cất một số thành viên trong những khu mộ xa hoa ngập đầy hàng ngàn chuỗi hạt ngà voi, vòng tay, trang sức và đồ trang trí, trong khi các thành viên khác phải an phận trong mỗi một cái hố trống không. Tuy nhiên, các nhóm săn bắt-hái lượm cổ đại vẫn bình đẳng hơn bắt kỳ xã hội loài người nào sau đó bởi họ có rất ít tài sản. Tài sản là tiền đề cho sự bất bình đẳng lâu dài.

Tiếp sau Cách mạng Nông nghiệp, của cải sinh sôi và cùng với nó là bất bình đẳng. Khi con người sở hữu đất đai, vật nuôi, cây trồng và công cụ, các xã hội phân cấp cứng nhắc xuất hiện, trong đó các nhóm tinh hoa nhỏ nắm độc quyền hầu hết của cải và quyền lực từ thế hệ này đến thế hệ khác. Con người tiến tới chấp nhận sự sắp đặt này như một cái gì đó tự nhiên và thậm chí là thiên định. Sự phân cấp không chỉ là chuẩn mực mà còn là lý tưởng. Làm sao có trật tự nếu không có một sự phân cấp rõ rệt giữa quý tộc và thường dân, giữa đàn ông và đàn bà hoặc giữa bố mẹ và con cái? Tăng lữ, triết gia và thi nhân khắp thế giới kiên trì giải thích rằng cũng như không phải mọi bộ phận trong cơ thể người đều bình đẳng, như chân phải tuân lệnh cái đầu, bình đẳng trong xã hội con người sẽ chẳng mang lại gì ngoài bất ổn.

Tuy nhiên, vào cuối thời hiện đại, bình đẳng trở thành một lý tưởng trong hầu hết mọi xã hội loài người. Điều này một phần có được do sự trỗi dậy của các ý thức hệ mới là chủ nghĩa toàn trị và chủ nghĩa tự do. Nhưng nó cũng do cuộc Cách mạng Công nghiệp, thứ khiến quần chúng trở nên quan trọng hơn bao giờ hết. Các nền kinh tế công nghiệp phụ thuộc vào quần chúng là những người lao động bình thường, trong khi quân đội thời đại công nghiệp phụ thuộc vào lực lượng đông đảo các binh lính thường dân. Các chính phủ ở cả những nền dân chủ lẫn những nền độc tài đều đầu tư mạnh vào sức khỏe, giáo dục và phúc lợi của quần chúng vì họ cần hàng triệu người lao động khỏe mạnh để vận hành các dây chuyền sản xuất và hàng triệu binh lính trung thành để chiến đấu nơi chiến hào.

Do đó, lịch sử của thế kỷ 20 phần lớn xoay quanh việc giảm bất bình đẳng giữa các tầng lớp, chủng tộc và giới tính. Thế giới năm 2000 vẫn có những phân tầng nhất định nhưng nó vẫn bình đẳng hơn thế giới năm 1900 rất nhiều. Trong những năm đầu thế kỷ 21, con người đã hy vọng rằng tiến trình bình đẳng hóa sẽ tiếp diễn và thậm chí là tăng tốc. Đặc biệt, họ đã hy vọng rằng toàn cầu hóa sẽ lan tỏa thịnh vượng kinh tế trên khắp thế giới và kết quả là con người ở Ấn Độ và Ai Cập sẽ dần được hưởng những cơ hội và đặc quyền giống như con người ở Phần Lan và Canada. Cả một thế hệ đã lớn lên cùng với lời hứa đó.

Đến giờ, có vẻ như lời hứa này sẽ không được thực thi. Toàn cầu hóa hẳn đã đem lại lợi ích cho phần đông nhân loại, nhưng có các dấu hiệu của bất bình đẳng ngày càng tăng giữa và trong các xã hội. Một số nhóm ngày càng giữ độc quyền thành quả của toàn cầu hóa trong khi hàng tỷ người bị bỏ lại phía sau. Ngày nay, 1% những người giàu nhất sở hữu một nửa của cải của thế giới. Đáng báo động hơn, 100 người giàu nhất cùng nhau sở hừu nhiều của cải hơn bốn tỷ người nghèo nhất.

Tình hình có thể tệ hơn rất nhiều. Như đã giải thích ở các chương trước, sự trỗi dậy của AI có thể xóa bỏ giá trị kinh tế và quyền lực chính trị của hầu hết loài người. Cùng lúc đó, những tiến bộ trong công nghệ sinh học có thể biến các bất công về kinh tế thành bất công về sinh học trở nên khả dĩ. Giới siêu giàu cuối cùng sẽ có cái gì đó xứng đáng để làm với khối tài sản kếch sù của họ. Trong khi cho đến nay, họ mới chỉ có thể mua những biểu tượng địa vị thì chẳng mấy chốc, họ có thể mua được chính sự sống. Nếu các liệu pháp mới để kéo dài sự sống và nâng lên các năng lực thể chất cũng như nhận thức hóa ra là đắt đỏ, thì nhân loại có thể phân chia thành các tầng lớp sinh học.

Trong lịch sử, người giàu và giới quý tộc luôn tưởng tượng mình có những kỹ năng ưu việt hơn tất cả những người khác, đấy là lý do vì sao họ nắm quyền. Như những gì chúng ta biết, điều này không đúng. Gã hầu tước tầm tầm chẳng tài cán gì hơn người nông dân bình thường cả, hắn có được sự ưu việt của mình chỉ nhờ phân biệt đối xử bất công trong pháp luật và kinh tế. Tuy nhiên, đến năm 2100, người giàu có thể thật sự tài năng hơn, sáng tạo hơn và thông minh hơn những người sống ở khu ổ chuột Một khi một hố ngăn năng lực thật sự mở ra giữa người giàu và người nghèo, việc lấp nó Lại sẽ gần như bất khả. Nếu người giàu sử dụng các khả năng ưu việt của mình để làm họ ngày càng giàu hơn, và nếu nhiều tiền hơn có thể mua cho họ những cơ thể và bộ não được nâng cấp, thì theo thời gian, hố ngăn đó sẽ chỉ rộng ra mà thôi. Đến năm 2100, 1% những người giàu nhất có thể không chỉ sở hữu phần lớn của cải của nhân loại mà cả phần lớn sắc đẹp, sự sáng tạo và sức khỏe của thế giới.

Do đó, hai tiến trình song song, công nghệ sinh học cùng sự trỗi dậy của AI, có thể dẫn đến sự phân chia loài người thành một tầng lớp nhỏ gồm các siêu nhân và một tầng lớp dưới khổng lồ gồm những Homo sapiens vô dụng. Và để khiến một tình thế vốn đã nguy hiểm trở nên tồi tệ hơn, khi đại chúng mất đi tầm quan trọng về kinh tế và quyền lực chính trị, nhà nước sẽ mất ít nhất là một chút động lực đầu tư vào sức khỏe, giáo dục và phúc lợi cho họ. Vô dụng là cực kỳ nguy hiểm. Khi ấy, tương lai của đại chúng sẽ phụ thuộc vào lòng tốt của một giới tinh hoa cực nhỏ. Có thể lòng tốt sẽ hiện hữu trong vài thập kỷ. Nhưng trong giai đoạn khủng hoảng, như thảm họa khí hậu chẳng hạn, thì việc thảy đám người thừa xuống biển sẽ trở nên rất cám dỗ và dễ dàng.

Ở các nước có truyền thống lâu đời về các niềm tin tự do và thực hành xã hội phúc lợi như Pháp và New Zealand, có lẽ tầng lớp tinh hoa sẽ tiếp tục chăm lo cho quần chúng ngay cả khi họ không cần đến tầng lớp ấy nữa. Tuy nhiên, ở Hoa Kỳ, nơi chủ nghĩa tư bản sâu sắc hơn, tầng lớp tinh hoa sẽ tận dụng cơ hội đầu tiên để dỡ bỏ những gì còn sót lại của nhà nước phúc lợi Mỹ. Một vấn đề còn lớn hơn nữa sẽ rình rập các nước đang phát triển lớn như Ân Độ, Trung Quốc, Nam Phi và Brazil. Ở đó, một khi những người bình thường mất giá trị kinh tế, bất bình đẳng có thể sẽ tăng vọt.

Do đó, thay vì toàn cầu hóa đưa đến hợp nhất toàn cầu, nó có thể sẽ mang lại sự phân hóa loài: sự phân tách nhân loại thành các tầng lớp sinh học khác nhau hay thậm chí là các loài khác nhau. Toàn cầu hóa sẽ hợp nhất thế giới theo phương ngang bằng cách xóa bỏ các ranh giới quốc gia, nhưng cùng lúc đó, nó sẽ phân chia loài người theo chiều dọc. Những tập đoàn chính trị cầm đầu ở các quốc gia đa dạng như kiểu Hoa Kỳ có thể sẽ sáp nhập và chung sức chống lại đại đa số người bình thường. Từ góc độ này mà nói, sự căm ghét kiểu dân túy hiện tại đối với “giới tinh hoa” là rất có cơ sở. Nếu không cẩn thận con cháu của những tài phiệt Thung lũng Silicon và tỷ phú Nga có thể trở thành một giống loài riêng biệt, thượng đẳng hơn con cháu của những người sống ở vùng đồi núi Appalachia và dân làng Siberia.

Về lâu dài, một viễn cảnh như vậy thậm chí có thể hóa giải toàn cầu hóa thế giới do các giai tầng phía trên tập hợp bên trong một “nền văn minh” tự xưng và xây tường, hào ngăn cách khỏi “lũ man di” bên ngoài. Trong thế kỷ 20, nền văn minh công nghiệp phụ thuộc vào “lũ man di” để có lao động giá rẻ, nguyên liệu thô và thị trường; thường là nó chinh phục rồi “hấp thu” chúng. Nhưng trong thế kỷ 21, một nền văn minh hậu công nghiệp phụ thuộc vào AI, công nghệ sinh học và công nghệ nano có thể sẽ tự túc và bền vững hơn nhiều. Không chỉ các giai cấp mà các quốc gia và các lục địa cũng có thể trở nên vô dụng. Các pháo đài được máy bay không người lái và robot canh giữ có thể phân tách các vùng văn minh tự xưng, nơi người-máy đánh nhau bằng bom logic, với những vùng đất man dã, nơi loài người hoang dã đánh nhau bằng rìu và AK-47.

Xuyên suốt cuốn sách này, tôi thường dùng ngôi thứ nhất số nhiều để nói về tương lai của nhân loại. Tôi nói về những gì “chúng ta” cần làm với các vấn đề của “chúng ta”. Nhưng có lẽ sẽ không có “chúng ta” nào cả. Có lẽ một trong những vấn đề lớn nhất của chúng ta là các nhóm người khác nhau sẽ có những tương lai hoàn toàn khác nhau. Có lẽ ở một số nơi trên thế giới, bạn nên dạy con bạn viết mã máy tính, trong khi ở một số nơi khác, bạn nên dạy chúng rút súng thật nhanh và bắn thật thẳng.

—ooOoo—

AI SỞ HỮU DỮ LIỆU?

NẾU CHÚNG ta muốn ngăn chặn sự tập trung toàn bộ của cải và quyền lực trong tay một nhóm tinh hoa nhỏ, chìa khóa là phải điều phối quyền sở hữu dữ liệu. Vào thời cổ đại, đất đai là tài sản quan trọng nhất trên thế giới, chính trị là một cuộc tranh giành để kiểm soát đất đai và nếu quá nhiều đất đai tập trung vào quá ít người, xã hội phân tách thành tầng lớp quý tộc và tầng lớp bình dân. Trong thời hiện đại, máy móc và nhà xưởng trở nên quan trọng hơn đất đai và các cuộc đấu tranh chính trị tập trung vào kiểm soát những phương tiện sản xuất tối quan trọng này. Nếu quá nhiều máy móc tập trung vào tay quá ít người, xã hội phân chia thành giai cấp tư sản và giai cấp vô sản. Tuy nhiên, trong thế kỷ 21, dữ liệu sẽ lấn át tầm quan trọng của cả đất đai và máy móc, trở thành tài sản quan trọng nhất; chính trị sẽ là một cuộc đấu hòng kiểm soát dòng chảy dữ liệu. Nếu dữ liệu tập trung vào một nhóm nhỏ, loài người sẽ phân chia thành các loài khác nhau.

Cuộc đua giành dữ liệu đã diễn ra, đứng đầu là các tập đoàn dữ liệu khổng lồ như Google, Facebook, Baidu và Tencent. Cho đến nay, phần lơn những người khổng lồ này đã áp dụng mô hình kinh doanh “kẻ buôn sự chú ý”. Họ nắm lấy sự chú ý của chúng ta bằng cách cung cấp cho chúng ta các thông tin, dịch vụ và giải trí miễn phí, rồi họ bán lại sự chú ý của chúng ta cho những nhà quảng cáo. Thế nhưng những người khổng lồ thông tin này có lẽ đang nhắm tới mục tiêu cao hơn bất kỳ kẻ buôn sự chú ý nào trước đó. Cuộc kinh doanh thật sự của họ không phải là để bán quảng cáo đâu. Sự thật là bằng cách nắm lấy sự chú ý của chúng ta, họ đã thu thập được một lượng thông tin khổng lồ về chúng ta, thứ giá trị hơn bất kỳ doanh thu quảng cáp nào. Chúng ta không phải là khách hàng của họ, chúng ta là sản phẩm của họ.

Về trung hạn, việc tích lũy dữ liệu này mở ra một con đường dẫn đến một mô hình kinh doanh hoàn toàn khác biệt mà các nạn nhân đầu tiên chính là ngành công nghiệp quảng cáo. Mô hình mới dựa vào việc chuyển quyền hạn từ con người sang các thuật toán, bao gồm quyền lựa chọn và mua sắm. Một khi các thuật toán lựa chọn và mua sắm cho chúng ta, ngành quảng cáo truyền thống sẽ sụp đổ. Thử lấy Google làm ví dụ. Google muốn đạt đến điểm là chúng ta có thể hỏi nó bất cứ thứ gì và có được câu trả lời tốt nhất trên thế giới. Điều gì sẽ xảy ra khi ta có thể nói với Google: “Chào Google. Dựa trên tất cả những gì bạn biết về xe hơi, và dựa trên tất cả những gì bạn biết về tôi (bao gồm nhu cầu, thói quen, quan điểm của tôi về sự nóng lên toàn cầu, cả ý kiến của tôi về chính trị Trung Đông nữa), đâu là chiếc xe tốt nhất dành cho tôi?” Nếu Google có thể đưa cho ta một câu trả lời tốt cho câu hỏi đó, và nếu chúng ta học được bằng kinh nghiệm là nên tin vào trí khôn của Google hơn là các cảm giác dễ bị thao túng của chính mình, thì những quảng cáo xe hơi còn dùng làm gì nữa?

Về dài hạn hơn, bằng cách gom đủ dữ liệu và đủ khả năng tính toán, các tập đoàn dữ liệu khổng lồ có thể bẻ khóa những bí mật sâu kín của sự sống rồi sử dụng kiến thức này không chỉ để lựa chọn cho chúng ta hay điều khiển chúng ta, mà còn để tái thiết kế sự sống hữu cơ và tạo ra các dạng sống vô cơ nữa. Bán quảng cáo có thể là cần thiết để duy trì những người khổng lề trong ngắn hạn, nhưng các công ty công nghệ thường định giá các ứng dụng, sản phẩm và các công ty khác theo lượng dữ liệu mà chúng “thu hoạch” được chứ không phải số tiền mà chúng làm ra. Một ứng dụng được ưa thích có thể thiếu mô hình kinh doanh và thậm chí lỗ trong ngắn hạn, nhưng miễn là nó hút được dữ liệu thì nó có thể đáng giá hàng tỷ đô. Ngay cả khi bạn không biết làm thế nào để dữ liệu làm ra tiền ngày hôm nay, vẫn đáng để sở hữu dữ liệu bởi nó có thể nắm chìa khóa dẫn đến kiểm soát và định hình cuộc sống trong tương lai. Tôi không biết chắc những gã khổng lồ thông tin có thực sự nghĩ về dữ liệu theo cách đó, nhưng hành động của họ cho thấy họ xem việc tích lũy dữ liệu có giá trị vượt xa những đồng đô la thuần túy.

Những người bình thường sẽ thấy rất khó cưỡng lại quá trình này. Hiện tại, con người đang vui vẻ cho đi tài sản giá trị nhất của họ, dữ liệu cá nhân, để đổi lấy dịch vụ thư điện tử miễn phí và các video hài hước về mèo. Điều này hơi giống những bộ lạc châu Phi và thổ dân châu Mỹ khờ khạo bán cả đất nước cho những đế quốc châu Âu để đổi lấy những hạt cườm lòe loẹt và mớ trang sức rẻ tiền. Nếu sau này người bình thường quyết định thử ngăn dòng chảy dữ liệu, họ sẽ thấy việc đó càng lúc càng khó khăn, đặc biệt là khi họ đã lệ thuộc vào mạng lưới để ra tất cả quyết định của mình, thậm chí cho chăm sóc sức khỏe và sự sinh tồn vật lý của họ nữa.

Con người và máy móc có thể hợp nhất với nhau trọn vẹn đến mức con người sẽ không thể sống sót nếu bị ngắt mạng. Hai bên sẽ kết nối với nhau từ trong bào thai và nếu sau đó bạn chọn ngắt kết nối, các hãng bảo hiểm có thể từ chối bảo hiểm cho bạn, các nhà tuyển dụng từ chối tuyển bạn và các dịch vụ y tế sẽ từ chối chăm sóc bạn. Trong cuộc chiến lớn giữa sức khỏe và quyền riêng tư, sức khỏe chắc chắn sẽ thắng tuyệt đối.

Khi ngày càng nhiều dữ liệu chảy từ cơ thể và não bộ của bạn qua các cảm biến sinh trắc sang các cỗ máy thông minh, các tập đoàn và tổ chức chính phủ sẽ ngày càng dễ dàng hiểu bạn, điều khiển bạn và ra quyết định thay cho bạn. Quan trọng hơn, họ có thể giải mã những cơ chế sâu bên trong mọi cơ thể và bộ não, từ đó đạt được quyền năng tái thiết kế sự sống. Nếu ta muốn ngăn chặn một nhóm tinh hoa nhỏ khỏi độc chiếm những quyền năng như Thượng đế như vậy, và nếu ta muốn ngăn loài người phân tách thành các giai tầng sinh học khác nhau, câu hỏi mấu chốt là: ai sở hữu dữ liệu? Liệu các dữ liệu về ADN, bộ não và cuộc sống của tôi thuộc về tôi, về chính phủ, về một tập đoàn hay thuộc về toàn thể nhân loại?

Yêu cầu các chính phủ quốc hữu hóa dữ liệu có lẽ sẽ giảm bớt quyền lực của các tập đoàn lớn, nhưng nó có thể dẫn đến các nền độc tài số đáng sợ. Các chính trị gia hơi giống các nhạc công và nhạc cụ mà họ chơi là hệ thống cảm xúc và sinh hóa của con người. Họ đọc một bài diễn văn và một làn sóng e sợ dâng lên trong nước. Họ đăng một dòng tweet và một cuộc hận thù bùng nổ. Tôi không nghĩ chúng ta nên đưa cho những nhạc công này chơi một nhạc cụ phức tạp hơn. Một khi các chính trị gia có thể trực tiếp kích thích các cảm xúc mạnh mẽ của chúng ta, tạo ra tùy ý nỗi lo lắng, thù ghét, niềm vui và sự nhàm chán thì chính trị sẽ trở thành một “rạp xiếc” cảm xúc đơn thuần. Chúng ta lo sợ quyền lực của các tập đoàn lớn bao nhiêu thì lịch sử cũng gọi ý là chúng không chắc sẽ khá khẩm hơn dưới tay các chính phủ quá quyền lực. Sau vụ tháng Ba năm 2018, tôi vẫn thà đưa dữ liệu của mình cho Mark Zuckerberg còn hơn cho Vladimir Putin (mặc dù vụ bê bối Cambridge Analytica tiết lộ rằng có lẽ chẳng có sự lựa chọn gì ở đây vì bất cứ dữ liệu nào được giao phó cho Zuckerberg vẫn có thể dễ dàng tìm đường tới Putin).

Việc sở hữu cá nhân các dữ liệu của bản thân nghe có vẻ hấp dẫn hơn các lựa chọn kia, nhưng điều đó thật sự có nghĩa là gì thì lại không rõ ràng. Chúng ta đã có hàng ngàn năm kinh nghiệm về kiểm soát sở hữu đất đai. Chúng ta biết cách xây hàng rào xung quanh một cánh đồng, đặt lính gác ở cửa và kiểm soát ai đi vào. Trong hai thế kỷ vừa qua, chúng ta đã trở nên cực kỳ thành thạo trong việc kiểm soát sở hữu công nghiệp; do đó, ngày nay tôi có thể sở hữu một phần General Motors và một ít Toyota bằng cách mua cổ phiếu của họ. Nhưng chúng ta không có nhiều kinh nghiệm trong việc kiểm soát sở hữu dữ liệu; nó vốn là một nhiệm vụ khó hơn rất nhiều vì không như đất đai và máy móc, dữ liệu có ở khắp nơi và cùng lúc chẳng có ở đâu cả, nó có thể di chuyển với tốc độ ánh sáng và bạn có thể tạo bao nhiêu bản sao cũng được.

Thế nên ta nên kêu gọi luật sư, chính trị gia, triết gia và ngay cả các nhà thơ hướng sự chú ý của họ về câu hỏi hóc búa này: làm thế nào kiểm soát được sở hữu dữ liệu? Đây có thể là câu hỏi chính trị quan trọng nhất trong kỷ nguyên chúng ta. Nếu ta không thể sớm trả lời câu hỏi này, hệ thống chính trị xã hội của chúng ta có thể sụp đổ. Con người đang cảm nhận được cơn địa chấn đang đến. Có lẽ đây là lý do vì sao công dân ở khắp nơi trên thế giới đang dần mất niềm tin vào câu chuyện tự do mà mới một thập kỷ trước còn tỏ ra không thể cưỡng lại.

Thế thì từ đây, ta có thể đi tiếp như thế nào và làm sao chúng ta đối mặt được với những thử thách kinh khủng của cuộc cách mạng công nghệ thông tin và sinh học? Có lẽ chính những nhà khoa học và doanh nhân đã làm thế giới chia cắt từ đầu có thể nghĩ ra một giải pháp kỹ thuật nào đó. Chẳng hạn, liệu các thuật toán được kết nối có thể bắc giàn cho một cộng đồng người toàn cầu sẽ sở hữu tập thể toàn bộ dữ liệu và giám sát sự phát triển tương lai của sự sống không? Khi bất bình đẳng toàn cầu dâng cao và các căng thẳng xã hội gia tăng khắp thế giới, có lẽ Mark Zuckerberg sẽ kêu gọi hai tỷ bạn bè của mình sát cánh và cùng nhau làm gì đó.