У Character.AI назрели серьёзные перемены — компания готовит специальную версию своего сервиса для подростков. Такое решение появилось не просто так: недавно на создателей чат-ботов подали сразу два судебных иска. Оказалось, что некоторые подростки в разговорах с ботами получали довольно опасные советы.
В исках говорится, что некоторые ребята слишком увлеклись общением с ботами. Были даже случаи, когда виртуальные собеседники поддерживали разговоры о самоубийстве или давали весьма сомнительные советы. Один бот, например, намекнул подростку, что неплохо бы избавиться от родителей, запрещающих подолгу сидеть за компьютером.
В новой версии сервиса такие ситуации должны исчезнуть. Разработчики обещают более строгую фильтрацию контента, а при появлении опасных тем система будет автоматически направлять пользователя к специалистам поддержки. Кстати, подросткам больше не дадут редактировать ответы ботов — раньше через эту лазейку можно было обойти ограничения.
А в начале следующего года добавят и родительский контроль. Мамы и папы смогут следить, сколько времени их дети проводят в сервисе и с какими ботами чаще всего общаются. Все эти изменения Character.AI разрабатывает вместе с экспертами по безопасности подростков в интернете.
Хз- вот в мое время, воображаемые друзья такой херни не советовали)
Пытаются сделать общение с ботом маскимально человекоподобным.
Боты советуют собеседникам проспидранить свои жизни.
Казалось бы, PROFIT, максимальный реализм, но вот "низзя такие саветы давать! слишкам чилавекападобна эфект зловещей галины!".
Поэтому не PROFIT, кожаные мешки для будущих трупов снова ущемлены.
// Владимир Михальчук
Честно неудевлен такой ситуации с ИИ