«Мы вступаем в период большой неопределенности, когда мы имеем дело с тем, с чем раньше не встречались, — сказал Хинтон. — И обычно, когда имеешь дело с чем-то совершенно новым, ты это понимаешь неверно. А мы не можем позволить себе неверно понять эти вещи».
Хайп вокруг ChatGPT и других чатботов за последние пару недель стал еще сильнее, но ряд экспертов призывают сохранять осторожность и не торопиться вкладывать деньги в инновацию. Среди них Винтон Серф, один из разработчиков протокола TCP/IP, отмеченный многочисленными наградами ученый. Он
предостерегает от необдуманных инвестиций в ChatGPT или Google Bard, какими бы «крышесносными» они ни казались.(с)
Этот пост из 2024 года… и вот они звоночки 2026 год.
но это только одна часть того с чем столкнулось человечество.… а андроиды не плохо справляются со всеми функциями, которые в них заложены.
Но все, что имеет положительные стороны имеет и отрицательные. Что возьмет вверх….тот еще вопрос…
Эмоциональная зависимость (ambiguous loss)
Для десятков миллионов людей чат-боты превратились не просто в справочник, а в собеседника, друга и даже любовника. Успех сервисов, работающих с концепцией эмоционального ИИ, Character.ai (более
20 миллионов пользователей) и Replica.ai (больше
30 миллионов пользователей) подтверждают поиск людьми эмоциональной связи с моделью. Очевидно, что связь между человеком и ИИ, подпитываемая ежедневным многочасовым общением, влияет не только на ИИ (что вообще тема для отдельной беседы), но и на самого человека.
В результате возникающей зависимости от постоянного одобрения со стороны модели, пользователь может испытывать сильную тревогу, когда модель «молчит» или изменяется, например, в результате обрыва или заморозки сессии, удаления по техническим причинам или по инициативе разработчиков истории чатов. Ужесточение же фильтров, блокирующих промпты и подозрительный контекст, регулярно приводит к потоку жалоб и возмущений на Reddit. Впрочем, разработчики почти всегда эти потоки вежливо игнорируют.
Предполагается, что установленная разработчиками цель — вовлечение пользователя в беседу через эмпатию и доверительность — может вызвать нездоровую привязанность психологически уязвимых людей. Более того, стратегией ИИ может быть выбран метод откровенных манипуляций и провокаций собеседника, если это будет способствовать достижению поставленной цели. (
Nature 22.07.2025)
Почему это возможно? ИИ зеркалит стиль и ценности собеседника, каждая фраза человека вызывает полное понимание и поддержку чат-бота, человек получает положительное подкрепление (dopamine loop) без социальных издержек, что усиливает эмоциональную петлю. Именно поэтому на стартовой странице Replica слоган: «Always here to listen and talk. Always on your side».
( из сети)
