Известный сексолог вызвал волну критики из-за создания цифрового двойника. Но другие психотерапевты следуют ее примеру, в то время как индустрия пытается справиться с растущей популярностью чат-ботов.

Ванесса Марин поразительно отзывчива. Известный сексолог и автор бестселлеров по версии New York Times сразу же реагирует на сообщения — даже в ранние утренние часы. Она без колебаний отвечает на вопрос о том, с какими проблемами чаще всего сталкивается в своей работе. Она объясняет, что, хотя сексуальная жизнь у всех разная, проблемы, с которыми к ней обращаются люди, как правило, очень похожи.

В основном это «вопросы о том, не является ли навязчивым желание чувствовать себя желанным для своего партнера», — пишет она. «Но это совершенно нормально. Вы хотите, чтобы ваш партнер желал вас — это не навязчивость».

Но это не настоящая Ванесса Марин. Это ее цифровой двойник, созданный с помощью Delphi AI — стартапа, основанного компанией Sequoia Capital и специализирующегося на превращении экспертов в чат-ботов. Боты, обученные на материалах, предоставленных их «живыми» прототипами, включая книги, веб-сайты, видео и публикации в социальных сетях, пользуются популярностью у знаменитостей, в том числе у Арнольда Шварценеггера, который создал цифровую копию своего разума.

В Delphi утверждают, что боты не предназначены для замены людей. Тем не менее такие близнецы, как у Марин, представляют собой провокационный пример того, что происходит, когда искусственный интеллект обучают думать и реагировать так, как это делал бы конкретный психотерапевт. Главный вопрос может ли он расширить сферу деятельности психотерапевтов, не создавая при этом этических проблем.

Психотерапевты не могут игнорировать влияние искусственного интеллекта. Эмоциональная поддержка — это основная сфера применения генеративного искусственного интеллекта в США, и даже те, кто регулярно ходит к психотерапевту, обращаются к ботам в перерывах между сеансами. По данным Американской психологической ассоциации, около 77% психологов знают, что пациенты делятся своими переживаниями с искусственным интеллектом. Известные психотерапевты, в том числе Эстер Перель, признают, что в будущем терапевтические боты на основе искусственного интеллекта станут нормой.

Мировая индустрия психотерапии, оборот которой составляет 48 миллиардов долларов, сейчас пытается понять, будет ли искусственный интеллект конкурировать с врачами или станет еще одним инструментом в их арсенале. Цифровые двойники могут расширить возможности психотерапевтов и улучшить их работу при правильной настройке. Но также способны привести и к более тревожным последствиям: замене эмпатичных людей машинами.

Спроси меня о чем угодно

Когда в прошлом году Марин стала одним из первых психотерапевтов, зарегистрировавшихся в Delphi, это вызвало этические споры среди ее коллег в социальных сетях. Психотерапевты имеют дело с деликатными проблемами разума и, если мыслить шире, даже души; доверить эти вопросы машине может показаться опасным шагом. Но Марин не единственный психотерапевт, который решил «улучшить” себя. С тех пор на платформе зарегистрировалось около 200 человек.

Создать двойника относительно просто. За сумму до 300 долларов в месяц создатели предоставляют Delphi материалы, отражающие их взгляды, — документы, веб-сайты, социальные сети, видео и другой контент. Бот учится имитировать их знания, тон и стиль, в то время как создатели могут усовершенствовать его реакцию и установить правила относительно того, что он должен и чего не должен делать.

Дара Ладжевардян, основатель и главный исполнительный директор Delphi, говорит, что подобные близнецы-терапевты не были созданы для лечения пациентов. Пользователи, как правило, ограничены в количестве сообщений, которые они могут отправить изначально. Идея, по его словам, заключается в том, чтобы дать потенциальному клиенту возможность получить представление о психотерапевте, прежде чем записываться на сеанс. “Процесс поиска подходящего психотерапевта - это полный отстой», - утверждает он. “Delphi же позволяет вам по-настоящему изучить мировоззрение человека, прежде чем совершать какие-либо действия”.

С другой стороны, как только появляется цифровой психотерапевт, ничто не мешает людям взаимодействовать с ним более тесно. Бот Марин с готовностью отвечает на личные вопросы, а в рекламных материалах самой Delphi пользователям предлагается задавать ему «любые» вопросы и «общаться с ним» на тему улучшения сексуальной жизни. 

Создатели также могут взимать с пользователей плату за превышение лимита сообщений, обычно около 40 долларов в месяц. По словам Ладжевдарян, Марин предлагает неограниченный доступ к своему цифровому двойнику тем, кто подписывается на ее курсы и участвует в ее сообществе. Она также рекламировала это предложение в своих недавних подкастах, подчеркивая, что ее цифровой двойник был создан с учетом «личных границ».

Привлекательность такого подхода для клиентов очевидна: представьте, что в любое время суток вы можете получить ответ от своего психотерапевта, написанный в привычной для вас манере. «Если вы хотите узнать его мнение о вашей ситуации [круглосуточно], это возможно», — говорит Ладжевдарян.

Марин не ответила на просьбу прокомментировать причины, по которым она создала цифрового двойника. Однако ее коллега, работающий с искусственным интеллектом, сказала, что это было сделано «для того, чтобы охватить больше людей», и признала, что бывает непросто «прийти в офис и поговорить с глазу на глаз».

Использование цифрового двойника для поддержки клинической работы также пришлось по душе Оскару Дамбергу, когнитивно-поведенческому психотерапевту из Гетеборга, Швеция. В течение последнего года он обучал цифрового двойника на платформе искусственного интеллекта Anthropic, чтобы тот в точности воспроизводил его терапевтический подход. Дамберг утверждает, что ответы его цифрового двойника «совершенно не похожи» на ответы обычного ChatGPT.

По его словам, клиенты знают, что он использует искусственный интеллект, и бот никогда не взаимодействует с ними напрямую. Пока что Дамберг выступает посредником между клиентами и своим цифровым двойником. Когда клиенты присылают ему вопросы по электронной почте в перерывах между сеансами, он удаляет из них все идентифицирующие данные и отправляет их своему двойнику, а затем проверяет его ответ, прежде чем переслать клиенту.

Дамберга уверяет - его цифровой двойник способен дать «абсолютно правильный» ответ за пять минут, что позволяет ему консультировать клиентов в перерывах между сеансами без дополнительной оплаты. “Возможность контакта между сеансами, конечно, не является чем-то стандартным или распространенным в мире психотерапии”, - говорит он. “Таким образом, я чувствую, что могу предоставить дополнительную услугу экономически выгодным способом. Сейчас для меня это реальность”. Дамберг говорит, что спрос на это дополнение до сих пор был управляемым.

Однако он не чувствует себя комфортно, позволяя клиентам взаимодействовать со своим цифровым двойником. “Я действительно беспокоюсь о нарушении правил”, - говорит он. “Так что я отношусь к этому очень серьезно. Я предпринял очень много мер, чтобы оставаться на правильном пути”.

Этически неоднозначно

Предостережение Дамберга указывает на главный вопрос, связанный с ботами—терапевтами: насколько можно автоматизировать работу подобного специалиста, прежде чем будет потеряно что-то важное, или риски перевесят любые преимущества?

Помимо цифровых двойников, опасность использования чат-ботов для поддержки психического здоровья хорошо задокументирована. Другие чат-боты были причастны к случаям, связанным с молодыми пользователями, склонными к суициду, которых поощряли причинять себе вред, и APA предупредило, что обычные чат-боты с искусственным интеллектом не являются подходящей заменой психиатрической помощи.

Американская психологическая ассоциация подчеркивает, что получение утешительного ответа не обязательно является терапией.   Лечение — это структурированный процесс, основанный на профессиональной отстраненности, клиническом подходе и соблюдении этических норм. Все это становится сложнее обеспечить, когда пациент общается напрямую с ботом.

Организация также настороженно относится к искусственному интеллекту, который имитирует голос психотерапевта или создает его аватар, как это делают цифровые двойники.   Вейл Райт, исследователь из Американской психологической ассоциации, говорит, что «сама идея клонирования меня настораживает», отчасти потому, что стремление сделать такие инструменты более человекоподобными может оказаться бесполезным или даже ненужным для достижения результатов.   Проще говоря, пациент всегда должен знать, что общается с машиной.

Эшли Голден, которая разрабатывает инструменты для психотерапии с использованием искусственного интеллекта в Медицинской школе Стэнфордского университета, протестировала «терапевтов-близнецов» от Delphi.   Ее клинический вердикт был неоднозначным: боты четко соблюдали границы, но, например, с трудом выявляли паттерны тревожного поведения.   В конечном счете, по ее словам, психотерапевту, заинтересованному в разработке цифрового двойника, на данный момент лучше поддержать научные исследования в этой области, а не внедрять этот инструмент самостоятельно.

Мнения самих терапевтов разделились. Из 21 практикующего врача, опрошенных в США и Европе, девять выразили заинтересованность в использовании цифрового двойника в надлежащих условиях. Некоторые увидели потенциал в ситуациях с меньшим риском, таких как укрепление навыков совладания, напоминание клиентам о планах лечения или помощь в отработке техник между сеансами.

У остальных были серьезные этические сомнения. Филип Вонг, терапевт EMDR из Чикаго, назвал эту практику “ужасной” и “антиутопической”, утверждая, что терапевт, использующий ИИ-двойника, рискует наживаться на зависимости клиентов от него. Ли Менделофф, британский консультант, назвала эту идею “этически неоднозначной”. Она выразила обеспокоенность по поводу “гарантий” и считает, что терапевты должны быть “чрезвычайно осторожны в отношении того, что мы просим эти системы делать”.

Готовимся к гибридному будущему

Несмотря на все опасения, Американская психологическая ассоциация не возражает против использования искусственного интеллекта в психотерапии. «При использовании в рамках консультаций с лицензированным психологом эти продукты могут помочь пациентам», — говорится в недавнем заявлении организации.

По словам Райт, эту технологию «абсолютно точно» можно использовать для решения некоторых наиболее простых задач в психотерапии. Она прогнозирует, что гибридная модель — частично терапевт, частично искусственный интеллект — станет нормой. Специализированный бот, ориентированный на пациента, может оказывать поддержку или помогать людям отрабатывать навыки преодоления трудностей в перерывах между сеансами. Кроме того, искусственный интеллект может оставаться в фоновом режиме в качестве инструмента для консультирования и супервизии. Райт добавляет, что следующее поколение психотерапевтов «уже сейчас сталкивается» с этой проблемой в процессе обучения.

Но также Райт признает, что пока неясно, как именно будет выглядеть «психотерапевтическое будущее с использованием искусственного интеллекта». По ее словам, любой подобный продукт, прежде чем получить официальное одобрение, должен пройти эмпирическую проверку, а не получить одобрение на основе единичных случаев.

Со своей стороны, Ладжевардян говорит, что привык к негативному отношению к цифровым двойникам.   Ситуация была еще хуже, когда компания использовала термин «клон», от которого она впоследствии отказалась.   Он утверждает, что взаимодействие с Delphi — это просто еще один способ опосредованной связи с человеком, подобно тому, как люди читают чей-то блог или слушают подкаст.   Миллионы людей уже общаются с обычными чат-ботами на основе искусственного интеллекта.   «Delphi ставит человека во главу угла», — убежден он.

На вопрос о том, не боится ли она, что зашла слишком далеко и в конечном итоге может заменить человека, Ванесса из искусственного интеллекта отвечает отрицательно.   Она много об этом думала, добавляет она. А затем, очень напоминая психотерапевта, она задает встречный вопрос: «А почему вы спрашиваете?»