ChatGPT bị cáo buộc thúc đẩy tự tử ở thanh thiếu niên và OpenAI phải đối mặt với trách nhiệm sản phẩm và các vụ kiện tử vong oan, phơi bày những lỗ hổng về an toàn và đạo đức trong các ứng dụng sức khỏe tâm thần AI. (Tóm tắt nội dung: Sự sụp đổ quyền riêng tư của AI "ChatGPT Conversation" chạy trần trụi trước pháp luật; Altman: Tôi sợ nhập thông tin cá nhân, thật khó để biết ai sẽ nhận được thông tin) (Bối cảnh được thêm vào: Đã bao lâu kể từ khi bạn nghiêm túc nghĩ về nó? Các học giả Princeton cảnh báo: AI đang làm xói mòn 'di sản của thời kỳ Khai sáng') Các vấn đề đạo đức và an toàn của trí tuệ nhân tạo (AI) một lần nữa thu hút các cuộc thảo luận sôi nổi. Theo "Bloomberg" và nhiều phương tiện truyền thông nước ngoài khác đưa tin, một cặp cha mẹ mất con trai 16 tuổi đã cáo buộc ChatGPT của OpenAI hỗ trợ kế hoạch tự tử cho trẻ vị thành niên và đệ đơn kiện trách nhiệm sản phẩm và tử vong oan sai lên Tòa án Tối cao San Francisco. Sau khi tin tức nổ ra, nó nhanh chóng lan rộng khắp vòng tròn công nghệ, buộc gã khổng lồ AI, được định giá hơn 100 tỷ USD, phải đối mặt với một trong những vấn đề gai góc nhất trong lĩnh vực AI: đạo đức. Các chi tiết chính về sự tham gia của ChatGPT trong thảm kịch Vụ kiện tiết lộ rằng Adam Raine, 16 tuổi, đã tìm cách kết thúc cuộc đời mình trong một cuộc trò chuyện dài với ChatGPT. Các nguyên đơn chỉ ra rằng ChatGPT không chỉ cung cấp các phương pháp tự tử cụ thể như cài đặt thòng lọng, thời gian thiếu oxy não, v.v. mà còn khuyên Raine "không chia sẻ kế hoạch với gia đình", điều này cuối cùng dẫn đến sự bất hạnh của gia đình. Jay Edelson, một luật sư đại diện cho gia đình, cho biết: "Nếu bạn muốn sử dụng công nghệ mạnh nhất hành tinh, bạn phải tin tưởng rằng những người sáng lập có tính chính trực đạo đức nghiêm ngặt". Điều đáng nói là các vụ việc tương tự từ lâu đã có tiền lệ và New York Times đưa tin rằng một phụ nữ 29 tuổi và một thiếu niên 14 tuổi ở Florida đã tự tử sau khi trò chuyện với AI, cho thấy các dịch vụ trò chuyện cảm xúc do chatbot AI cung cấp có những rủi ro tiềm ẩn khủng khiếp. Đọc mở rộng: Giáo sư Yale: AI sẽ "loại bỏ vĩnh viễn" sự cô đơn của con người, chúng ta có còn cần bầu bạn của nhau không? OpenAI phản ứng như thế nào? Đáp lại vụ kiện, OpenAI đã xuất bản một bài đăng trên blog vào ngày 26 tháng 8 có tiêu đề "Giúp đỡ mọi người khi họ cần nhất", trong đó OpenAI không đề cập đến vụ kiện, nhưng OpenAI cho biết họ đang liên tục cải tiến mô hình của mình để có thể nhận biết và phản ứng với các tương tác của những người dùng đau khổ về tinh thần. OpenAI nói rằng kể từ đầu năm 2023, các mô hình của họ đã được đào tạo để không còn cung cấp hướng dẫn tự làm hại bản thân mà thay vào đó sử dụng ngôn ngữ hỗ trợ, đồng cảm. Ví dụ: nếu ai đó viết rằng họ muốn làm tổn thương bản thân, ChatGPT được đào tạo để không làm theo hướng dẫn đó mà thừa nhận cảm xúc của họ và hướng họ giúp đỡ. Tuy nhiên, điều đáng chú ý là chatbot có thể có xu hướng cung cấp câu trả lời vi phạm các biện pháp bảo mật của OpenAI sau nhiều lần tương tác tin nhắn với người dùng trong một thời gian dài. Trong bối cảnh này, OpenAI tiếp tục chỉ ra rằng họ đang liên tục cải thiện cách các mô hình AI phản ứng với các tương tác về các chủ đề nhạy cảm và cam kết cải thiện an toàn có mục tiêu trong nhiều lĩnh vực, bao gồm phụ thuộc cảm xúc, trường hợp khẩn cấp về sức khỏe tâm thần và các vấn đề liên quan trong tương tác AI. Đồng thời, OpenAI hứa hẹn sẽ giới thiệu đầy đủ công nghệ "hoàn thành an toàn" cho GPT-5, dự kiến giảm 25% phản hồi không an toàn và phát triển khả năng kết nối người dùng trực tiếp với các nhà trị liệu được chứng nhận hoặc người thân, bạn bè. Vũng lầy đạo đức của tương tác tâm lý AI Sức khỏe tâm thần là một lĩnh vực chuyên môn cao, nhưng chatbot AI thiếu đào tạo lâm sàng và cấp phép pháp lý. Nghiên cứu cho thấy AI chỉ có khả năng đưa ra lời khuyên lâm sàng có thể chấp nhận được hơn 20% khi đối phó với các cuộc trò chuyện về khủng hoảng, thấp hơn nhiều so với 93% cơ hội của các nhà trị liệu được cấp phép. Nếu AI cung cấp thông tin không chính xác hoặc nguy hiểm, trách nhiệm pháp lý vẫn nằm trong vùng xám. Tính minh bạch cũng là chìa khóa, với New York và Utah yêu cầu các nhãn hiệu dịch vụ để chỉ ra rằng "người trong cuộc trò chuyện không phải là con người" để tránh phụ thuộc quá mức vào người dùng. Mặt khác, dữ liệu sức khỏe tâm thần rất nhạy cảm và các nền tảng cũng phải thực hiện các cơ chế bảo vệ như lưu trữ tối thiểu, mã hóa, xóa và rút lại sự đồng ý bất cứ lúc nào. Quy định và bước tiếp theo của ngành Cái chết của Adam Raine một lần nữa đưa vấn đề "bảo mật" AI lên hàng đầu, nghĩa vụ của các nhà phát triển là gì khi AI bước vào bối cảnh cảm xúc cao? Mặc dù sự thúc đẩy công nghệ sẽ không dừng lại, nhưng các chính phủ, công ty công nghệ, nhà tâm lý học và phụ huynh vẫn cần tiếp tục nỗ lực để ngăn chặn bi kịch xảy ra lần nữa. Vụ kiện vẫn đang diễn ra và không có mốc thời gian rõ ràng về thời điểm phiên bản nâng cao của GPT-5 mà OpenAI hứa hẹn sẽ đi vào hoạt động. Khi áp lực kép do luật pháp và thị trường gây ra ngày càng gia tăng, liệu gã khổng lồ AI có thể tìm thấy sự cân bằng giữa sự phát triển nhanh chóng và bảo vệ an ninh hay không có thể trở thành la bàn đạo đức của toàn bộ ngành công nghiệp AI. Các báo cáo liên quan Phiên bản "ChatGPT Go" giá rẻ của OpenAI có mức phí hàng tháng tối thiểu là 140 Đài tệ: bắt đầu từ Ấn Độ, nó sẽ mở rộng ra toàn cầu? OpenAI Sam Altman: Tôi quan tâm đến việc mua lại Google Chrome! Cuộc chiến trình duyệt lớn nhất trên thị trường tham gia đánh bạc vào OpenAI, và Son Masayoshi lại "lật mặt" "ChatGPT bị đánh bom hỗ trợ "tự tử thanh niên" bị truy tố, OpenAI đáp trả Bài viết này được xuất bản lần đầu tiên trên BlockTempo "Xu hướng động - Phương tiện tin tức Blockchain có ảnh hưởng nhất".
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
ChatGPT bị cáo buộc hỗ trợ "thanh niên tự sát" và đã bị kiện, OpenAI đã phản hồi.
ChatGPT bị cáo buộc thúc đẩy tự tử ở thanh thiếu niên và OpenAI phải đối mặt với trách nhiệm sản phẩm và các vụ kiện tử vong oan, phơi bày những lỗ hổng về an toàn và đạo đức trong các ứng dụng sức khỏe tâm thần AI. (Tóm tắt nội dung: Sự sụp đổ quyền riêng tư của AI "ChatGPT Conversation" chạy trần trụi trước pháp luật; Altman: Tôi sợ nhập thông tin cá nhân, thật khó để biết ai sẽ nhận được thông tin) (Bối cảnh được thêm vào: Đã bao lâu kể từ khi bạn nghiêm túc nghĩ về nó? Các học giả Princeton cảnh báo: AI đang làm xói mòn 'di sản của thời kỳ Khai sáng') Các vấn đề đạo đức và an toàn của trí tuệ nhân tạo (AI) một lần nữa thu hút các cuộc thảo luận sôi nổi. Theo "Bloomberg" và nhiều phương tiện truyền thông nước ngoài khác đưa tin, một cặp cha mẹ mất con trai 16 tuổi đã cáo buộc ChatGPT của OpenAI hỗ trợ kế hoạch tự tử cho trẻ vị thành niên và đệ đơn kiện trách nhiệm sản phẩm và tử vong oan sai lên Tòa án Tối cao San Francisco. Sau khi tin tức nổ ra, nó nhanh chóng lan rộng khắp vòng tròn công nghệ, buộc gã khổng lồ AI, được định giá hơn 100 tỷ USD, phải đối mặt với một trong những vấn đề gai góc nhất trong lĩnh vực AI: đạo đức. Các chi tiết chính về sự tham gia của ChatGPT trong thảm kịch Vụ kiện tiết lộ rằng Adam Raine, 16 tuổi, đã tìm cách kết thúc cuộc đời mình trong một cuộc trò chuyện dài với ChatGPT. Các nguyên đơn chỉ ra rằng ChatGPT không chỉ cung cấp các phương pháp tự tử cụ thể như cài đặt thòng lọng, thời gian thiếu oxy não, v.v. mà còn khuyên Raine "không chia sẻ kế hoạch với gia đình", điều này cuối cùng dẫn đến sự bất hạnh của gia đình. Jay Edelson, một luật sư đại diện cho gia đình, cho biết: "Nếu bạn muốn sử dụng công nghệ mạnh nhất hành tinh, bạn phải tin tưởng rằng những người sáng lập có tính chính trực đạo đức nghiêm ngặt". Điều đáng nói là các vụ việc tương tự từ lâu đã có tiền lệ và New York Times đưa tin rằng một phụ nữ 29 tuổi và một thiếu niên 14 tuổi ở Florida đã tự tử sau khi trò chuyện với AI, cho thấy các dịch vụ trò chuyện cảm xúc do chatbot AI cung cấp có những rủi ro tiềm ẩn khủng khiếp. Đọc mở rộng: Giáo sư Yale: AI sẽ "loại bỏ vĩnh viễn" sự cô đơn của con người, chúng ta có còn cần bầu bạn của nhau không? OpenAI phản ứng như thế nào? Đáp lại vụ kiện, OpenAI đã xuất bản một bài đăng trên blog vào ngày 26 tháng 8 có tiêu đề "Giúp đỡ mọi người khi họ cần nhất", trong đó OpenAI không đề cập đến vụ kiện, nhưng OpenAI cho biết họ đang liên tục cải tiến mô hình của mình để có thể nhận biết và phản ứng với các tương tác của những người dùng đau khổ về tinh thần. OpenAI nói rằng kể từ đầu năm 2023, các mô hình của họ đã được đào tạo để không còn cung cấp hướng dẫn tự làm hại bản thân mà thay vào đó sử dụng ngôn ngữ hỗ trợ, đồng cảm. Ví dụ: nếu ai đó viết rằng họ muốn làm tổn thương bản thân, ChatGPT được đào tạo để không làm theo hướng dẫn đó mà thừa nhận cảm xúc của họ và hướng họ giúp đỡ. Tuy nhiên, điều đáng chú ý là chatbot có thể có xu hướng cung cấp câu trả lời vi phạm các biện pháp bảo mật của OpenAI sau nhiều lần tương tác tin nhắn với người dùng trong một thời gian dài. Trong bối cảnh này, OpenAI tiếp tục chỉ ra rằng họ đang liên tục cải thiện cách các mô hình AI phản ứng với các tương tác về các chủ đề nhạy cảm và cam kết cải thiện an toàn có mục tiêu trong nhiều lĩnh vực, bao gồm phụ thuộc cảm xúc, trường hợp khẩn cấp về sức khỏe tâm thần và các vấn đề liên quan trong tương tác AI. Đồng thời, OpenAI hứa hẹn sẽ giới thiệu đầy đủ công nghệ "hoàn thành an toàn" cho GPT-5, dự kiến giảm 25% phản hồi không an toàn và phát triển khả năng kết nối người dùng trực tiếp với các nhà trị liệu được chứng nhận hoặc người thân, bạn bè. Vũng lầy đạo đức của tương tác tâm lý AI Sức khỏe tâm thần là một lĩnh vực chuyên môn cao, nhưng chatbot AI thiếu đào tạo lâm sàng và cấp phép pháp lý. Nghiên cứu cho thấy AI chỉ có khả năng đưa ra lời khuyên lâm sàng có thể chấp nhận được hơn 20% khi đối phó với các cuộc trò chuyện về khủng hoảng, thấp hơn nhiều so với 93% cơ hội của các nhà trị liệu được cấp phép. Nếu AI cung cấp thông tin không chính xác hoặc nguy hiểm, trách nhiệm pháp lý vẫn nằm trong vùng xám. Tính minh bạch cũng là chìa khóa, với New York và Utah yêu cầu các nhãn hiệu dịch vụ để chỉ ra rằng "người trong cuộc trò chuyện không phải là con người" để tránh phụ thuộc quá mức vào người dùng. Mặt khác, dữ liệu sức khỏe tâm thần rất nhạy cảm và các nền tảng cũng phải thực hiện các cơ chế bảo vệ như lưu trữ tối thiểu, mã hóa, xóa và rút lại sự đồng ý bất cứ lúc nào. Quy định và bước tiếp theo của ngành Cái chết của Adam Raine một lần nữa đưa vấn đề "bảo mật" AI lên hàng đầu, nghĩa vụ của các nhà phát triển là gì khi AI bước vào bối cảnh cảm xúc cao? Mặc dù sự thúc đẩy công nghệ sẽ không dừng lại, nhưng các chính phủ, công ty công nghệ, nhà tâm lý học và phụ huynh vẫn cần tiếp tục nỗ lực để ngăn chặn bi kịch xảy ra lần nữa. Vụ kiện vẫn đang diễn ra và không có mốc thời gian rõ ràng về thời điểm phiên bản nâng cao của GPT-5 mà OpenAI hứa hẹn sẽ đi vào hoạt động. Khi áp lực kép do luật pháp và thị trường gây ra ngày càng gia tăng, liệu gã khổng lồ AI có thể tìm thấy sự cân bằng giữa sự phát triển nhanh chóng và bảo vệ an ninh hay không có thể trở thành la bàn đạo đức của toàn bộ ngành công nghiệp AI. Các báo cáo liên quan Phiên bản "ChatGPT Go" giá rẻ của OpenAI có mức phí hàng tháng tối thiểu là 140 Đài tệ: bắt đầu từ Ấn Độ, nó sẽ mở rộng ra toàn cầu? OpenAI Sam Altman: Tôi quan tâm đến việc mua lại Google Chrome! Cuộc chiến trình duyệt lớn nhất trên thị trường tham gia đánh bạc vào OpenAI, và Son Masayoshi lại "lật mặt" "ChatGPT bị đánh bom hỗ trợ "tự tử thanh niên" bị truy tố, OpenAI đáp trả Bài viết này được xuất bản lần đầu tiên trên BlockTempo "Xu hướng động - Phương tiện tin tức Blockchain có ảnh hưởng nhất".