Xứ Nẫu

Trương Văn Dân

.

Elon Musk và 1000 chuyên gia : Hãy dừng nghiên cứu về trí tuệ nhân tạo hoặc mọi thứ vượt khỏi tầm tay!

Các đại đệ tử của các phù thủy về trí tuệ nhân tạo hiện đang lo lắng!

Trong tháng 3 -2023, Elon Musk và 1000 chuyên gia Trí tuệ nhân tạo đang phát đi Lời kêu gọi: “Hãy dừng lại trong 6 tháng hoặc mọi thứ có thể vượt khỏi tầm tay”.

Có nghĩa là chúng ta đang tạo ra những quái vật (nhân tạo) và khi mất kiểm soát nó sẽ gay ra tác hại khôn lường!

Khi đọc lời cảnh báo này tôi liền nhớ lại chuyện các phù thủy ngày xưa tạo âm binh để sai khiến, nhưng về sau chúng nổi lên làm phản và giết chủ! Tương tự, nếu máy tính có khả năng đánh bại nhà vô địch cờ tướng thì nó cũng có thể tự tạo ra phương cách để vượt qua những giới hạn đặt sẵn để chống lại con người.

Đã từng xảy ra trường hợp là có một robot đã bắt đầu suy nghĩ độc lập và tạo ra một thứ ngôn ngữ mới nên các nhà bác học đã sợ hãi và cúp điện.

Mời các bạn đọc lại chương 33 – Của riêng còn lại chút gì? Trích từ tiểu thuyết TRÒ CHUYỆN VỚI THIÊN THẦN viết về đề tài Trí tuệ nhân tạo từ năm 2014, nghĩa là trước 9 năm khi cảnh báo này được đưa ra khi Thần đèn sắp thoát ra và có nguy cơ mất kiểm soát.

Elon Musk và 1000 nhà nghiên cứu và quản lý, bao gồm cả người bảo trợ của Tesla và Twitter Elon Musk, yêu cầu “nghỉ ngơi” sáu tháng trong việc phát triển các hệ thống trí tuệ nhân tạo tiên tiến như ChatGPT.

Liệu 6 tháng có phải là thời gian cần thiết để ngăn chặn cái mà họ gọi là một cuộc chạy đua vũ trang “nguy hiểm”? và có thể gây nên chiến tranh thế giới và con người sẽ bị tiêu diệt bởi phóng xạ nguyên tử như nhân vật thiên thần trong tiểu thuyết?

Lời kêu gọi này được đưa ra trong một bức thư ngỏ được xuất bản bởi Viện Tương lai Cuộc sống (Future of Life Institute) và được tờ Financial Times đưa tin. Các chuyên gia nhận định “trong những tháng gần đây, đã có một cuộc đua ngoài tầm kiểm soát của các phòng thí nghiệm AI để phát triển và triển khai những bộ óc kỹ thuật số mạnh mẽ mà không ai, kể cả người sáng tạo, có thể hiểu, dự đoán và kiểm soát. Chúng có thể gây ra những rủi ro nghiêm trọng cho xã hội và nhân loại”.

Do đó, họ yêu cầu “tất cả các phòng thí nghiệm AI dừng ngay lập tức trong ít nhất sáu tháng để đào tạo các hệ thống AI rất mạnh như GPT-4. Việc tạm dừng phải được công khai, có thể kiểm chứng và bao gồm tất cả mọi người.

Nếu điều này không được thực hiện nhanh chóng, các chính phủ cần phải can thiệp và đưa ra lệnh cấm”.

Hiện tại, Mỹ, Trung Quốc và Ấn Độ là ba quốc gia dẫn đầu trong cuộc đua trí tuệ nhân tạo. Tuy nhiên, nhiều chuyên gia cho rằng các nước khác sẽ bắt kịp bằng mọi giá.

Trong số những người ký tên vào bức thư còn có hai trong số các chuyên gia hàng đầu về các công nghệ này là Stuart Russell và Yoshua Bengio, những người sáng lập Stability AI và Character.ai, một số người đồng sáng lập Apple bao gồm Steve Wozniak, Pinterest và Skype cũng như Max Tegmark, của Viện Công nghệ Massachusetts cũng như nhiều kỹ sư từ Microsoft, Google, Amazon, Meta và DeepMind. Một tuần trước, Alphabet (Google) đã giới thiệu phiên bản Trí tuệ nhân tạo, được phát triển để thách thức ChatGPT, trong đó họ đầu tư vào đối thủ Microsoft.

Liên minh châu Âu đang chuẩn bị một quy định cho việc sử dụng trí tuệ nhân tạo với các hình phạt đối với các công ty vi phạm các quy tắc.

Trước đây Musk cũng đã từng lo sợ là nếu AI bị buông lỏng quản lý và mặc sức tung hoành thì “hiểm họa tiềm tàng lớn nhất mà nền văn minh của chúng ta phải đối diện” nên đã từng có cuộc khẩu chiến với ông chủ Facebook là Mark Zuckerberg:

Zuckerberg cho rằng quan điểm tiêu cực của Musk về trí tuệ nhân tạo là “khá vô trách nhiệm” và Musk phản bác rằng hiểu biết của Zuckerberg về vấn đề này “còn hạn chế”.

&

Nhưng có một chuyên gia không ký tên vào thư thỉnh nguyện nói trên vì cho rằng nó quá mềm mỏng, thậm chí còn kêu gọi hãy đánh bom các trung tâm dữ liệu.

Người đó là ai? Eliezer Yudkowsky.

Eliezer Yudkowsky là người đã dành hơn hai thập kỷ nghiên cứu Trí tuệ tổng hợp nhân tạo (AGI) và cảnh báo về những hậu quả tai hại có thể xảy ra. Vì lý do này, ông còn vượt xa hơn báo động vừa được đưa ra bởi những người như Elon Musk, Steve Wozniak và Andrew Yang…

Yudkowsky lập luận rằng điều đó là không đủ.

Đây là đề xuất gây sốc. Nhưng trong bài xã luận trên tạp chí Time magazine ông cho rằng sự tăng trưởng theo cấp số nhân của các hệ thống trí tuệ nhân tạo đang nhanh chóng đạt đến mức kịch phát, vô cùng nguy hiểm.

Chuyên gia này nói rằng cách duy nhất để tránh thảm họa là chặn hoàn toàn AI. Ý tưởng của ông? “Tắt tất cả các cụm (cluster) GPU lớn (các trang trại máy tính nơi phát triển trí tuệ nhân tạo mạnh nhất) và áp đặt giới hạn về sức mạnh tính toán có thể được sử dụng cho đào tạo AI, giảm nó theo thời gian. Không có ngoại lệ, ngay cả đối với các chính phủ và các cơ quan quân sự”.

Điều gì sẽ xảy ra nếu ai đó không tuân thủ các quy tắc? Yudkowsky không nghi ngờ gì: “Hãy phá hủy các trung tâm dữ liệu này bằng một cuộc không kích.”

Nỗi sợ hãi hay rối loạn tâm thần có cơ sở?

Giọng điệu của chuyên gia Yudkowsky đã làm nhiều người hoảng loạn. Ông

còn nói rằng đang lo sợ là con gái Nina của mình sẽ không sống sót đến tuổi trưởng thành nếu AI ngày càng thông minh tiếp tục phát triển. “nói trắng ra là tất cả mọi người trên Trái đất sẽ chết.”

Chúng ta có thể cho Yudkowsky là một kẻ cường điệu về thảm họa, tuy nhiên nếu ai đó đã dành cả cuộc đời để nghiên cứu về sự nguy hiểm của AI chắc chắn là cảnh báo của người đó rất đáng để lắng nghe.

Có phải vậy không?

.

Bây giờ thì xin mời các bạn đọc lại Của riêng còn lại chút gì?

…Thời của ba mẹ tuy không phải hoàn toàn nhưng cuộc sống khá thanh bình. Mọi người sống hòa thuận với thiên nhiên, sự nương tựa của con người vào nhau đã làm nên nét đẹp hiền hòa của miền quê yên tĩnh. Còn bây giờ… mảnh đất quê hương khó giữ được sự yên ổn, mọi tác động của xã hội đều thường trực quấy nhiễu…

Xã hội ngày xưa khá đơn giản. Mỗi đời người một lối sống, truyền từ đời này qua đời khác và cứ thế mà theo. Nó tựa như chiếc xe lửa lăn

167

bánh trên đường ray. Giao lưu quốc tế còn ít, nước nào, dân tộc nào sống trong lãnh thổ riêng biệt của mình. Phong tục, tập quán nhiều năm liền không thay đổi.

Còn xã hội hiện đại thì đang chuyển động quá nhanh đến mức không thể tưởng tượng được tương lai có thể sẽ xoay chuyển như thế nào. Vào những thế kỷ trước, người ta có thể suy đoán một cách tương đối về thế giới của thế kỷ sau và hình dung về cách sống trong xã hội đó. Khi đó, có rất nhiều chuỗi sự kiện mà con người còn đóng vai trò chủ đạo. Nhưng thế giới vào ngày con chào đời trong thế kỷ 21 thì ba thấy gần như không thể. Ba không biết rồi mình sẽ ở đâu, nếu lúc ấy ba còn tồn tại. Có thể là loài người đang xây dựng một thế giới không có chỗ cho chính mình: Vì khi chúng ta nói về tương lai thì tương lai đã thay đổi rồi. Cái tương lai mà chúng ta nói về chỉ là tương lai của quá khứ!

Thỉnh thoảng nói chuyện với con ba hay nhắc về xã hội thời ba từng sống. Điều đó cũng là thường tình khi một người lớn nói chuyện với người trẻ hơn mình. Nhưng điều này không hẳn chỉ có ba mới tiêc nuối quá khứ mà là cả xã hội đang nhìn lại mình. Sài Gòn đang rộ lên những quán café mang phong cách cũ, đèn vàng, nhạc Trịnh, những mái ngói rêu được thiết kế sao cho nó có hơi hướm xưa. Đương nhiên bên cạnh đó vẫn có vô vàn quán mang phong cách trẻ, hiện đại, rất Tây. Nhưng cứ mỗi khoảng thời gian, quán café mang phong cách cũ lại tiếp nối nhau mọc lên.

Cuộc sống chỉ có thể tiến lên, bước tới, có ai nghĩ đến chuyện thụt lùi lại quá khứ làm chi. Nhất là một quá khứ toàn chiến tranh, bom đạn, mất mát. Vậy thì theo con, điều gì khiến nhiều người tiếc nuối? Phải chăng cái gì thuộc về kỉ niệm, cái gì đẹp thì người ta khó có thể quên, cái gì đã được khẳng định là giá trị thì nó sẽ phải tồn tại?

Thời ba sống, dù chiến tranh lan rộng, nhưng là một thời đại không lên cơn sốt. Cũng không điên cuồng vội vã. Máy móc, xe hơi, điện thoại, máy bay… chưa áp đặt cho con người một nhịp sống siêu tốc. Thời gian và tuổi tác có một thước đo khác. Người ta sống êm

168

đềm hơn. Thời còn bé ba chưa bao giờ thấy ông nội chạy nhảy hay làm một điều gì đó vội vàng. Sự hấp tấp thời đó được xem là thiếu tao nhã và thậm chí vô ích vì trong thời ấy hiếm khi có điều gì thật bất ngờ xảy ra.

Vào những năm cuối đời, cha đẻ của phân tâm học Freud cũng tự đặt cho mình câu hỏi, là liệu những thành tựu mà con người tự hào có phải là dấu hiệu của tiến bộ? Mở đầu một tiểu luận ông ca tụng những thành tựu kỹ thuật, thí dụ niềm vui được nghe giọng nói của con mình khi cách xa hàng ngàn cây số. Nhưng sau đó ông liền viết, là nếu không phát minh ra xe lửa để mang con mình đi xa thì ông đâu có nhu cầu dùng điện thoại để nghe giọng nói của nó. Nếu không có phát minh và chế tạo những con tàu thì con người cần gì phải phát minh ra điện tín để có thể biết tin một người bạn đang đi xa, ở một lục địa nào khác…

&

Khi ba viết cho con những dòng này thì những cột khói của nhà máy điện đang bay lên cao và làm ba nghĩ đến những con người hiện đại đang ngày đêm cặm cụi làm việc để kéo cỗ máy thế giới đi theo tiến bộ và có trộn bệnh ung thư của thời đại. Dĩ nhiên người Mỹ là chuyên gia trị ung thư giỏi nhất thế giới. Họ giỏi bởi vì, với những kỹ nghệ thức ăn, phân bón, thuốc trừ sâu, diệt côn trùng, thuốc khai quang, chăn nuôi và lối sống của họ… chính là những thứ tạo ra căn bệnh này.

Thời gian con sinh ra thì thế giới đang bắt đầu một cuộc cách mạng công nghiệp thứ tư. Nó hình thành trên căn bản của những công nghệ mới như công nghệ Robot, công nghệ Nano, trí tuệ nhân tạo…

Đây là xu hướng kết hợp giữa các hệ thống ảo và thực tế với thế giới sinh vật. Trong tương lai rất gần các nhà máy thông minh kết nối với Internet và liên kết với nhau qua hệ thống tự hình dung toàn bộ quy trình sản xuất.

169

Những công nghệ mới này sẽ ảnh hưởng đến mọi luật lệ, mọi nền kinh tế, mọi ngành công nghiệp, đồng thời thách thức ý niệm của chúng ta về vai trò thực sự của con người.

Ảnh hưởng của nó trong thời gian đầu là hàng triệu người thất nghiệp, đặc biệt là các công nhân trong ngành vận tải, kế toán, bảo hiểm… Nhiều công việc ở các nước tân tiến sẽ biến mất vì tự động hóa. Cuộc cách mạng này sẽ có lợi cho tầng lớp giàu hơn là cho những người lao động trình độ thấp, và cũng như từng xảy ra trong lịch sử, các cuộc cách mạng công nghiệp đều mang theo sự bất công và kéo theo hàng loạt những chuyển dịch lớn về chính trị cũng như về thể chế. Chắc chắn trong thời gian tới sẽ có những biến đổi sâu sắc trong cơ cấu xã hội mà ba không thể nào lường nổi.

&

Thời của con là thời đại kết nối. Sự xuất hiện của Internet và World Wide Web trong những năm của thập niên 1990 đã được chào đón như một thời khắc của giải phóng và mang lợi ích cho nền dân chủ toàn thế giới. Thông tin tạo ra một hình thức của quyền lực, và tới một phạm vi mà thông tin đã trở nên rẻ hơn và tiếp cận được nhiều hơn, các công luận dân chủ sẽ có thể tham gia trong các lĩnh vực mà cho đến nay họ đã bị loại trừ. Trong những năm đầu của thập niên 2000, sự phát triển của các phương tiện truyền thông xã hội dường như đã thúc đẩy khuynh hướng này, nó cho phép việc huy động quần chúng châm dầu cho “các cuộc cách mạng màu sắc” dân chủ khác nhau quanh thế giới, từ Ukraina đến Miến Điện đến Ai Cập…

Thông tin hiện nay rất đa dạng. Người ta có thể online để học cách làm giấy của người Ai Cập, làm sữa chua như người Mông Cổ, hay chế tạo bom xăng, cách phun thuốc tăng trưởng độc hại cho cây trái…

Cuộc cách mạng Internet đã giúp lớp người trẻ như con có được những kho tàng kiến thức vô giá, một thư viện thông tin khổng lồ, mở cửa 24/7, lợi ích và tai hại trên cả hai mặt tích cực và tiêu cực. Con có thể tiếp thu thông tin hay liên lạc với nhau bằng tốc độ của ánh sáng. Nhưng những gì để lại qua hình ảnh và chữ viết của mình trên internet, email, Facebook… sẽ bị lưu giữ. Và chắc chắn sẽ có người lợi dụng để khai thác thông tin. Tính riêng tư vì thế sẽ không còn. Điều quý giá nhất của con người đã bị mất. Credit card, mua sắm thứ gì, ở đâu đều bị Big Brother(1) quan sát, lưu giữ ghi chép. Điện thoại di động sẽ kiểm soát con mọi lúc mọi nơi. Ti vi dù tắt, nhưng những gì con làm, gặp gỡ ai trong phòng khách vẫn bị bí mật chụp hình quay phim, tất tật.

Loài người hiện nay đang bị các tập đoàn như Apple, Facebook, Microsoft và Google “bán như rau”: Đằng sau những dịch vụ miễn phí: Email miễn phí, hệ điều hành miễn phí, kết nối miễn phí với bạn bè, tìm kiếm miễn phí là kho dữ liệu khổng lồ mà các nhà cung cấp dịch vụ khai thác từ khách hàng. Từ đó họ có thể bán chúng ta cho các dịch vụ quảng cáo để thu lợi gấp nhiều lần. Trên Facebook mọi “hành tung” của tất cả những ai sử dụng đều được ghi lại đầy đủ trong Nhật ký hoạt động của nhà điều hành. Bất cứ điều gì ta làm trên mạng đều lưu lại dấu vết. Dĩ nhiên ai cũng cố giữ sự riêng tư nhất có thể, nhưng sự riêng tư ấy đều đã thuộc về gã khổng lồ mang tên mạng xã hội.

Và không cần là Sherlock Holmes, người khác cũng có thể đoán được một người thông qua hành vi trên mạng của họ. Ta mua bằng thẻ nào, tìm gì trên Google, like những trang nào, bạn bè ta là ai. Tất cả những dữ liệu ấy đều được lưu lại trong một bộ nhớ khổng lồ.

Hình như không có ai có thể thoát khỏi tầm mắt của “người anh cả”. Một hệ thống camera giám sát phủ rộng tại các thành phố khắp nơi trên thế giới đã biến xã hội thành một cơn ác mộng đi ngược lại nguyên tắc về thừa hưởng phúc lợi từ sự tự do và công bằng mà Tây phương đã tranh đấu từ nhiều thế kỷ trước.

1. Big Brother hay Người anh cả là chương trình truyền hình thực tế do Đài CBS sản xuất, được xây dựng với ý tưởng tập hợp một nhóm khách mời, đưa họ vào sống trong một ngôi nhà tách biệt với thế giới bên ngoài và các phương tiện giải trí như tivi, điện thoại, Internet, thậm chí cả báo chí, sách vở. Tại ngôi nhà chung, hàng loạt camera sẽ ghi hình mọi hoạt động trong ngày của các thí sinh. Ở Việt Nam chương trình này được gọi là Người giấu mặt.

171

Một khái niệm mới bắt đầu ra đời: quyền lực thứ sáu.(1)

Ở các nước như Mỹ, Đức, Trung Quốc đều có các loại camera được gắn trên những cột đèn giao thông và cột điện. Chúng sẽ giám sát các khu vực có mật độ giao thông đông đúc như chợ, trung tâm mua sắm, công viên và các trạm xe buýt. Đó là skynet nhằm kiểm soát hành vi của người dân trên đường phố.

Khi trao đổi với mẹ con về chuyện này, mẹ con có kể lại cho ba câu chuyện mà trước đây đã tạo nhiều dư luận ở một thị trấn ở tiểu bang New York, nhưng nay là chuyện thật bình thường ở nhiều quốc gia: Người ta gắn camera trong nhà trẻ để các bà mẹ ngồi trước máy vi tính trong văn phòng có thể theo dõi các con mình đang làm gì và do đó yên tâm làm việc.

Nhưng cách giải quyết tốt nhất không phải là để các bà mẹ được sống bên cạnh con mình sao? Chúng ta đang tạo một thế giới “hiện đại” có lẽ hơi… quái gở: Người ta đưa trẻ em vào nhà trẻ, bỏ người già

1. Từ thời trung cổ đã hình thành ba loại quyền lực gồm Lập Pháp, Tư Pháp và Hành Pháp, cả ba nhóm này đều thuộc lĩnh vực trị quốc tức dưới quyền năng của chính quyền cai trị cai quản quốc gia hay lãnh thổ. Đến thế kỷ XX báo chí và truyền thông trở thành quan trọng nên được gọi là quyền lực thứ tư. Thế kỷ XXI với sự vươn lên quá mạnh mẽ của internet, các blog, mạng xã hội vượt khỏi tầm khống chế của cả báo chí – truyền thông lẫn tập đoàn trị quốc, khiến cả 4 thế lực này vào giai đoạn đầu của thế kỷ XXI chưa có biện pháp khống chế hữu hiệu, nên trở thành “quyền lực thứ năm”.

Gần đây, trong quyển sách Liquid Surveillance. A conversation của nhà tư tưởng và xã hội học Bauman về cuộc đối thoại với David Lyon, giám đốc trung tâm nghiên cứu về giám sát (Surveillance Studies Centre) có nói về nhu cầu của “quyền lực” như chính khách, nhóm lợi ích, về sự xóa bỏ quyền riêng tư của công dân. Nói cách khác, những gì riêng tư sẽ biến thành công cộng. Do đó, tất cả mọi người đều bị kiểm soát, phân loại, đánh giá, phán xét từ những điều nhỏ nhặt hàng ngày. Trớ trêu là chính chúng ta – kẻ bị kiểm soát – đã cung cấp tất cả các thông tin cá nhân, qua giao tiếp trên mạng xã hội, dùng thẻ tín dụng, mua sắm hay tìm kiếm điều gì trên mạng. Sự giám sát này được xem như quyền lực thứ sáu, nó như con quái vật có nhiều đầu, và hiện nay các định nghĩa đều còn mơ hồ.

Hiện nay cũng có vài nước đã và đang thiết lập một hệ thống khổng lồ để giám sát hành vi của người dân và xếp hạng từng người theo điểm “tín nhiệm xã hội” (social credit) để từ đó nhà nước có chính sách đối xử phù hợp (Cấm bay hoặc cấm đi tàu hỏa. Không có cơ hội tìm việc làm tốt. Bị nêu tên như một công dân xấu. Con em bị cấm học v.v..). Tất nhiên cũng có những hành vi bị trừ điểm như lái xe ẩu, hút thuốc ở nơi cấm, cướp giật hay đăng tin tức giả mạo trên mạng.

172 Tr ò c h u y ệ n v ớ i t h i ê n t h ầ n

vào viện dưỡng lão và nuôi một con chó để làm bạn.

Nhưng chưa hết!

Một ngày nào đó, để kiểm soát, người ta sẽ gắn con “chip” (microchip) vào cơ thể của mọi người.

Thế hệ của ba mẹ có thể sẽ thoát… nhưng con thì chắc không tránh khỏi.

Điều này đã được làm cho thú vật. Cho các tù nhân nguy hiểm. Giới quân sự đã sử dụng cho các tài sản. Và sắp tới sẽ làm như thế cho các con, thế hệ con người – robot sắp tới.

Một con chip computer, nhỏ bằng hạt gạo sẽ được đặt vào cơ thể của trẻ thơ để chính quyền có thể tìm được trẻ khi chúng bị thất lạc hay bị bắt cóc.

Dĩ nhiên, việc tiêm đặt con chip (microchipping) vào cơ thể người dân sẽ bắt đầu với sự tự nguyện, nhưng sau đó sẽ trở thành điều bắt buộc.

Con hãy thử hình dung một thế giới mới mà tiền giấy trở nên lỗi thời, con sẽ không thể mua, bán hay có một chương mục ngân hàng nếu không có một thẻ chứng minh bằng con “chip” do nhà nước cấp cho.

Nếu mình không đồng ý thì làm sao sống sót?

Còn nếu cho phép họ đặt con chip vào cơ thể thì họ sẽ điều khiển cha con mình theo ý của họ. Khi ấy, chúng ta chỉ là một người – robot!

Nhiều công ty ở nước ngoài đã cấy chip vào người để kiểm soát thời gian nhân viên ở đâu và làm gì. Các con chip chứa dữ liệu cá nhân của người sử dụng cùng với chìa khóa để truy cập vào hệ thống và máy tính của công ty. Con người sẽ trở thành người máy và người máy sẽ trở thành phiên bản của con người!

Những chọn lựa đau lòng rồi cũng sẽ xẩy ra.

Và chúng ta có thể làm gì? Khi các tập đoàn kinh tế cấu kết hay lũng đoạn chính quyền để kiểm soát thì cá nhân không còn một đời sống riêng tư nào nữa.

( trích tt TRÒ CHUYỆN VỚI THIÊN THẦN từ trang 167 đến 173 )

Read Full Post »