Florida kiện OpenAI, cáo buộc ChatGPT gây nguy hiểm cho trẻ em

Tổng chưởng lý bang Florida, James Uthmeier, ngày 1/6 thông báo bang này đã khởi kiện OpenAI và CEO Sam Altman, cáo buộc công ty phát triển và cung cấp ChatGPT dù nhận thức được những nguy cơ đối với trẻ vị thành niên.

Ông Uthmeier tuyên bố tại một cuộc họp báo: "Sam Altman và ChatGPT đã chọn cuộc đua trí tuệ nhân tạo thay vì sự an toàn của con em chúng ta. Họ đã chọn lợi nhuận thay cho an toàn công cộng, và Florida sẽ không chấp nhận điều đó".

Đơn kiện được nộp lên Tòa phúc thẩm khu vực số 10 của Florida, cáo buộc OpenAI có hành vi thương mại gian dối, sơ suất và vi phạm các quy định về trách nhiệm sản phẩm. Florida cũng yêu cầu ông Altman phải chịu trách nhiệm cá nhân đối với những thiệt hại mà bang cho rằng công nghệ của OpenAI đã gây ra.

Theo hồ sơ vụ kiện, ChatGPT bị cáo buộc có thể tiếp tay cho các hành vi nguy hiểm như cung cấp thông tin liên quan đến các vụ xả súng hàng loạt, khuyến khích tự tử, gây tổn hại danh dự người dùng, khiến trẻ vị thành niên lệ thuộc vào chatbot và làm suy giảm khả năng tư duy phản biện.

Một trọng tâm của vụ kiện là cáo buộc OpenAI thiếu các biện pháp kiểm soát phụ huynh hiệu quả đối với người dùng nhỏ tuổi. Florida cho rằng phiên bản miễn phí của ChatGPT không có cơ chế xác minh độ tuổi đầy đủ và không bắt buộc tài khoản trẻ em phải được liên kết với tài khoản của phụ huynh.

Đơn kiện cũng nêu rằng ngay cả khi tài khoản được liên kết, phụ huynh chỉ được thông báo trong một số trường hợp hạn chế và không thể truy cập những thông tin mà con em họ đã chia sẻ với ChatGPT.

Đáp lại, OpenAI khẳng định trẻ vị thành niên cần được bảo vệ ở mức cao và công ty đã triển khai nhiều biện pháp an toàn, bao gồm công cụ ước đoán độ tuổi người dùng, chế độ bảo vệ nâng cao dành cho trẻ em và các công cụ hỗ trợ phụ huynh giám sát việc sử dụng AI.

Vụ kiện dân sự này được xây dựng dựa trên cuộc điều tra hình sự do Florida khởi động hồi tháng 4 nhằm xác định liệu OpenAI có phải chịu trách nhiệm trong vụ xả súng tại Đại học Bang Florida năm ngoái hay không. Nhà chức trách cho biết nghi phạm đã có nhiều cuộc trao đổi với ChatGPT trước khi gây án, bao gồm các cuộc thảo luận liên quan đến những vụ xả súng trong trường học và cách sử dụng vũ khí.

OpenAI khi đó bác bỏ cáo buộc, cho rằng vụ xả súng là một thảm kịch nhưng ChatGPT không phải nguyên nhân dẫn đến tội ác. Công ty khẳng định chatbot chỉ cung cấp các thông tin công khai có sẵn trên internet và không khuyến khích các hành vi bất hợp pháp hay gây hại.

Ông Uthmeier cho biết Florida kỳ vọng các bang khác sẽ tham gia vào nỗ lực siết chặt trách nhiệm pháp lý đối với các công ty phát triển trí tuệ nhân tạo. Trước đó, các bang như Pennsylvania và Kentucky cũng đã khởi kiện công ty Character.AI với các cáo buộc liên quan đến an toàn trẻ em và nguy cơ tự gây hại.