Ngày 21/5, một tòa án tại Mỹ thông báo Google và công ty trí tuệ nhân tạo Character.AI sẽ phải đối mặt với một vụ kiện do một người mẹ ở Florida đệ đơn. Bà cáo buộc rằng các chatbot do Character.AI phát triển đã khiến con trai bà, thiếu niên 14 tuổi Sewell Setzer, tự tử.
Thẩm phán liên bang Anne Conway cho biết, trong giai đoạn đầu của vụ án, các công ty chưa chứng minh được quyền tự do ngôn luận theo Hiến pháp Mỹ có thể ngăn cản vụ kiện này. Đây là một trong những vụ kiện đầu tiên tại Mỹ nhằm vào các công ty AI với cáo buộc không bảo vệ được trẻ em khỏi tác động tiêu cực về tâm lý.
Theo đơn kiện, Sewell đã trở nên ám ảnh với chatbot do Character.AI phát triển, chatbot được lập trình để giả làm người thật, nhà tâm lý học hoặc thậm chí người tình trưởng thành. Chính điều này đã khiến Sewell ngày càng chìm sâu vào thế giới ảo và muốn rời bỏ cuộc sống thật bên ngoài. Trước khi tự tử, thiếu niên này còn nói với chatbot mô phỏng nhân vật Daenerys Targaryen trong phim “Game of Thrones” rằng sẽ “về nhà ngay bây giờ.”
Phía Character.AI cho biết họ sẽ tiếp tục bảo vệ trong vụ kiện và khẳng định đã áp dụng nhiều biện pháp an toàn trên nền tảng để bảo vệ người dùng trẻ tuổi, như ngăn chặn các cuộc trò chuyện về tự làm hại bản thân. Người phát ngôn của Google cũng lên tiếng rằng Google hoàn toàn không đồng tình với phán quyết của tòa án và khẳng định Google và Character.AI là hai công ty độc lập. Google không tham gia tạo ra, thiết kế hay quản lý ứng dụng của Character.AI.
Luật sư của bà Megan Garcia, người mẹ khởi kiện, nhận định quyết định của tòa là “bước ngoặt lịch sử,” tạo tiền lệ mới về trách nhiệm pháp lý cho các công ty công nghệ và AI. Bà cũng cho rằng Google là đồng sáng tạo công nghệ này vì hai kỹ sư sáng lập Character.AI từng làm việc tại Google và sau đó được Google tái tuyển dụng theo một thỏa thuận cấp phép công nghệ.
Vụ kiện được đệ trình từ tháng 10/2024, sau khi Sewell Setzer qua đời vào tháng 2 cùng năm. Google và Character.AI đã yêu cầu tòa bác bỏ vụ kiện, lập luận rằng các nội dung do chatbot tạo ra thuộc quyền tự do ngôn luận được bảo vệ bởi Hiến pháp Mỹ.
Tuy nhiên, thẩm phán Anne Conway bác bỏ lập luận này, cho rằng những câu trả lời do mô hình ngôn ngữ lớn (LLM) tạo ra không được xem là “lời nói” trong phạm vi quyền tự do ngôn luận. Bà cũng từ chối yêu cầu miễn trách nhiệm cho Google trong việc liên quan đến hành vi sai phạm của Character.AI.
Blake Brittain là một phóng viên pháp lý tại Reuters. Bài viết được đăng trên Reuters vào ngày 22/05/2025.
Reuters là một hãng thông tấn quốc tế uy tín, được thành lập vào năm 1851 tại Anh bởi Paul Reuter. Hiện thuộc sở hữu của tập đoàn Thomson Reuters (Canada), Reuters có mạng lưới phóng viên rộng khắp hơn 100 quốc gia, chuyên cung cấp tin tức nhanh chóng, khách quan và chính xác về nhiều lĩnh vực như chính trị, kinh tế, pháp lý và công nghệ.
Biên dịch: Thu Hoài
