Kevin J. Jones của hãng tin CNA, ngày 7 tháng 5 năm 2023, cho hay:



Một nhà nghiên cứu trí khôn nhân tạo hàng đầu mà một số người gọi là “cha đỡ đầu” của trí khôn nhân tạo cho biết kỹ thuật này đang phát triển với tốc độ “đáng sợ” và cảnh cáo rằng nó không nên mở rộng ra ngoài khả năng kiểm soát của chúng ta. Ông tham gia vào tiếng nói của nhiều nhà lãnh đạo, bao gồm cả Đức Giáo Hoàng Phanxicô, những người muốn bảo đảm các mối quan tâm về đạo đức được “xây dựng vào trong” nền tảng của kỹ thuật.

Geoffrey Hinton, một nhà nghiên cứu lâu năm tại Google mới nghỉ hưu ở tuổi 75, đã góp thêm tiếng nói của mình vào những tiếng nói cho rằng những nguy cơ tiềm ẩn của kỹ thuật mới đáng được xem xét kỹ lưỡng.

Hinton nói với BBC News: Phần mềm như hệ thống chatbot [máy nói chuyện với người] GPT-4, được phát triển bởi công ty khởi nghiệp OpenAI ở San Francisco, “làm lu mờ người ta về lượng kiến thức tổng quát mà nó có và nó làm lu mờ họ trong một thời gian dài. Về mặt suy luận, nó không tốt bằng, nhưng nó đã thực hiện một vài suy luận đơn giản rồi.”

Ông nói, “Và với tốc độ tiến triển hiện nay, người ta thấy mọi thứ sẽ trở nên tốt hơn khá nhanh. Vì vậy, chúng ta cần phải lo lắng về điều đó”.

GPT-4 là một mô hình học tập lớn được huấn luyện dựa trên các số lượng dữ kiện khổng lồ cũng như các văn bản lịch sử và đương thời do các tác giả con người viết ra. Nó có thể tự tạo văn bản và tạo các bài đăng trên blog, bài thơ và chương trình máy tính. Tờ New York Times đưa tin: Nó có thể tham gia vào các cuộc trò chuyện giống như con người và đưa ra câu trả lời cho các câu hỏi. Tuy nhiên, các hệ thống này vẫn đang trong giai đoạn phát triển ban đầu và bộc lộ nhiều sai sót: Mặc dù nói một cách tự tin, GPT-4 trình bày như có thật các thông tin không chính xác và tạo ra thông tin trong các biến cố mà các nhà nghiên cứu gọi là “ảo giác”.

Các hệ thống tương tự có thể tạo ra hình ảnh và video theo phong cách ảnh chụp và âm thanh thuyết phục, đôi khi được mô phỏng theo người thật.

Hiện tại, những phiên bản đầu tiên của trí khôn nhân tạo thiếu khả năng tự nhận thức. Có cuộc tranh luận về việc liệu khả năng tự nhận thức có khả thi đối với sáng tạo kỹ thuật số hay không.

Hinton, hiện đang sống ở Canada, là người tiên phong trong việc tạo và thiết kế “mạng lưới thần kinh”, loại cơ sở hạ tầng lập trình giúp máy tính học các kỹ năng và hình thức phân tích mới. Nó được sử dụng trong nhiều hệ thống trí khôn nhân tạo. Ông và hai cộng sự đã giành được giải thưởng cao nhất về điện toán, Giải thưởng Turing, vào năm 2018.

Theo phân tích của Hinton, các hệ thống trí khôn nhân tạo đang được phát triển này rất khác so với phần mềm mà mọi người thường sử dụng.

Ông nói: “Tôi đã đi đến kết luận rằng loại trí thông minh mà chúng ta đang phát triển rất khác với loại trí thông minh mà chúng ta hiện có. Không giống như trí thông minh sinh học như con người, chúng có thể có nhiều bản sao của cùng một hệ thống kỹ thuật số với cùng một mô hình thế giới. Mặc dù chúng có thể học riêng, nhưng chúng chia sẻ kiến thức của chúng “ngay lập tức”.

Hinton cho biết “Như thể bạn có 10,000 người và bất cứ khi nào một người học được điều gì đó, mọi người sẽ tự động biết điều đó. Và đó là cách mà những chatbot này có thể biết nhiều hơn bất cứ một con người nào”.

Đối với Hinton, kịch bản “xấu nhất” hoặc “cơn ác mộng” là khi một người máy được khai triển và ban cho khả năng tạo ra các mục tiêu phụ của riêng nó, sau đó quyết định mục tiêu của nó là tối đa hóa sức mạnh của chính nó.

Đâu là các rủi ro của trí khôn nhân tạo?

Các nhà nghiên cứu khác đã lên tiếng lo ngại rằng các hệ thống trí khôn nhân tạo này gây rủi ro trong ngắn hạn, trung hạn và dài hạn. Những mối nguy hiểm ban đầu bao gồm việc người ta tin tưởng nhầm vào thông tin sai lệch hữu hiệu hơn và thuyết phục hơn, bao gồm cả thông tin sai lệch do trí khôn nhân tạo trình bày một cách thuyết phục. Những kẻ lừa bịp và bọn tội phạm có thể tạo ra các cuộc gọi điện thoại giả bắt chước giọng nói của một người họ hàng tuyên bố rằng họ đang gặp nguy hiểm và cần tiền gấp.

Đức Giáo Hoàng Phanxicô gần đây là chủ đề của một bức ảnh giả phát tán tràn lan do máy tính tạo ra. Hình ảnh giáo hoàng mặc áo khoác phao màu trắng sành điệu đã loan truyền trên các trang mạng xã hội với nhiều người dường như nhầm ảnh giả với ảnh thật.

Nếu trí khôn nhân tạo tự động hóa thành công, nhiều nhiệm vụ hiện đang được thực hiện bởi con người sẽ mất đi, thất nghiệp có thể trở thành một vấn đề, một số lo ngại. New York Times đưa tin, những người điều hành nội dung Internet, trợ lý pháp lý, trợ lý cá nhân và dịch giả có thể thấy công việc của họ bị áp lực hoặc bị thay thế.

Những rủi ro dài hạn, chẳng hạn như hệ thống trí khôn nhân tạo thoát khỏi sự kiểm soát của con người và thậm chí là tiêu diệt loài người, từ lâu đã trở thành chủ đề chính của khoa học viễn tưởng. Một số chuyên gia trích dẫn hành vi bất ngờ từ các hệ thống trí khôn nhân tạo hiện đang được phát triển. Nếu các hệ thống trí khôn nhân tạo trở nên liên kết với nhau với các dịch vụ internet khác và trở nên mạnh mẽ đến mức chúng có thể viết mã của riêng mình để tự sửa đổi, thì trí khôn nhân tạo ngoài tầm kiểm soát có thể trở thành mối nguy hiểm thực sự.

Đức Thánh Cha Phanxicô, những người Công Giáo khác lên tiếng

Đức Thánh Cha Phanxicô đã nói rằng khoa học và kỹ thuật có những lợi ích thiết thực và là bằng chứng về khả năng của con người “tham gia một cách có trách nhiệm vào hành động sáng tạo của Thiên Chúa”.

“Từ quan điểm này,” Đức Thánh Cha nói trong buổi yết kiến ở Vatican ngày 27 tháng 3, “Tôi tin chắc rằng sự phát triển của trí khôn nhân tạo và máy học có khả năng đóng góp một cách tích cực cho tương lai của nhân loại; chúng ta không thể bác bỏ nó.”

Ngài nói thêm, “Đồng thời, tôi chắc chắn rằng tiềm năng này sẽ chỉ nên được thể hiện nếu có một cam kết liên tục và nhất quán từ phía những người phát triển các kỹ thuật này để hành động một cách hợp đạo đức và có trách nhiệm”.

Nhận xét được đưa ra tại một buổi yết kiến Vatican với những người tham gia Đối thoại Minerva, một tập hợp các nhà khoa học, kỹ sư, lãnh đạo doanh nghiệp, luật sư, triết gia, nhà thần học Công Giáo, nhà đạo đức học và các thành viên của Giáo triều Công Giáo tập chú vào kỹ thuật kỹ thuật số.

Đức Giáo Hoàng khuyến khích các nhà lãnh đạo này làm cho “phẩm giá nội tại của mỗi người nam và mỗi người nữ trở thành tiêu chuẩn chủ chốt” trong việc đánh giá các kỹ thuật mới xuất hiện.

Đức Giáo Hoàng Phanxicô cho biết ngài hoan nghênh quy định về trí khôn nhân tạo để nó có thể đóng góp cho một thế giới tốt đẹp hơn. Ngài cũng cho biết ngài yên tâm khi biết nhiều người làm việc trong các kỹ thuật mới biết đặt đạo đức, lợi ích chung và con người làm trung tâm. Ngài nhấn mạnh mối quan tâm của ngài rằng các kỹ thuật kỹ thuật số đang làm gia tăng sự bất bình đẳng trên thế giới và làm giảm con người xuống mức mà kỹ thuật có thể biết được.

Đức Thánh Cha nhấn mạnh: “Giá trị cơ bản của một người không thể được đo lường chỉ bằng dữ kiện.” Việc ra quyết định về kinh tế và xã hội nên “thận trọng” về việc ủy thác các phán đoán của mình cho các thuật toán và việc chế biến các dữ kiện cho cấu trúc và hành vi trước đó của một cá nhân.

Ngài nói, “Chúng ta không thể cho phép các thuật toán hạn chế hoặc đặt điều kiện cho việc tôn trọng phẩm giá con người hoặc loại trừ lòng cảm thương, lòng thương xót, sự tha thứ và trên hết là niềm hy vọng rằng người ta có thể thay đổi”.

Tại cuộc họp năm 2020 của Học viện Giáo hoàng về Sự sống, các thành viên của học viện đã cùng với các chủ tịch của IBM và Microsoft ký một tài liệu kêu gọi sử dụng các kỹ thuật trí khôn nhân tạo một cách có đạo đức và có trách nhiệm. Tài liệu tập trung vào đạo đức của các thuật toán và việc sử dụng trí khôn nhân tạo có đạo đức theo các nguyên tắc minh bạch, hòa nhập, trách nhiệm, vô tư, đáng tin cậy, bảo mật và quyền riêng tư.