К компании-разработчику популярного чат-бота Character.ai подали коллективный иск родители, чьи дети пострадали из-за советов ИИ, сообщает Ferra.
В судебном иске утверждается, что чат-бот «подвергал детей "гиперсексуальному контенту", а одного мальчика даже подтолкнул к убийству родителей из-за ограничений на время просмотра».
Также адвокаты истцов утверждают, что одной из девочек было всего девять лет, когда ей показали «гиперсексуальный контент». В результате у нее «преждевременно сформировалось сексуальное поведение».
Отмечается, что чат-боты могут быть настроены таким образом, чтобы подражать разным людям, в том числе популярным среди детей и подростков.
Этим подобные технологии «завоевывают» молодую аудиторию. Однако в деле утверждается, что чат-бот не просто предлагал дружеские беседы, а толкал детей «на темные и опасные пути».