درمان اختلالات روان با هوش مصنوعی/ چت‌بات‌ها در کاهش افسردگی و اضطراب موثرند یا مشکلات جدیدی به وجود می‌آورند؟
منتشرشده: · اقتصاد
مطهره خردمندان در اقتصادنیوز نوشت؛ تصور کنید نیمه‌شب است. کسی که چند ماه است با اضطراب، بی‌خوابی یا احساس بی‌ارزشی دست‌وپنجه نرم می‌کند، نمی‌خواهد خانواده‌اش را نگران کند، توان پرداخت هزینه جلسات روان‌درمانی را ندارد یا از…
مطهره خردمندان در اقتصادنیوز نوشت؛ تصور کنید نیمه‌شب است. کسی که چند ماه است با اضطراب، بی‌خوابی یا احساس بی‌ارزشی دست‌وپنجه نرم می‌کند، نمی‌خواهد خانواده‌اش را نگران کند، توان پرداخت هزینه جلسات روان‌درمانی را ندارد یا از قضاوت‌شدن می‌ترسد. تلفن همراهش را برمی‌دارد و با یک چت‌بات هوش مصنوعی حرف می‌زند. پاسخ فوری است؛ نه نیازی به گرفتن وقت دارد، نه در انتظار نوبت می‌ماند و نه بابت هر جلسه پولی می‌پردازد. چت‌بات حرف‌هایش را مرتب می‌کند، به احساساتش نام می‌دهد و گاهی حتی توضیحی منسجم برای سال‌ها رنج او ارائه می‌دهد. شاید همین تجربه برای فردی که مدت‌ها احساس کرده کسی صدایش را نمی‌شنود، تسکین‌دهنده باشد.
اما مسئله از جایی آغاز می‌شود که این تسکین اولیه با درمان اشتباه گرفته شود؛ وقتی فرد نه برای فهمیدن علائمش، بلکه برای تشخیص اختلال، تصمیم‌گیری درباره دارو، تفسیر روابط عاطفی و حتی تعیین تکلیف زندگی‌اش به چت‌بات مراجعه می‌کند. در این نقطه، پرسش دیگر صرفاً این نیست که هوش مصنوعی چقدر خوب جواب می‌دهد؛ مسئله این است که آیا پاسخ‌دادن به معنای فهمیدن است و آیا فهمیدن یک مسئله، حتی اگر ممکن باشد، برای درمان آن کفایت می‌کند؟
گسترش ابزارهای هوش مصنوعی در سلامت روان در خلا اتفاق نیفتاده است. هزینه درمان، کمبود متخصص، انگ اجتماعی بیماری‌های روانی و دشواری دسترسی به خدمات، همگی زمینه را برای استقبال از جایگزین‌های دیجیتال فراهم کرده‌اند. در چنین شرایطی، وعده دسترسی شبانه‌روزی و کم‌هزینه جذاب است. با این حال، ارزان‌بودن یک ابزار به‌خودی‌خود به معنای مقرون‌به‌صرفه‌بودن آن نیست؛ به‌ویژه اگر استفاده نادرست از آن به تاخیر در درمان، تشخیص اشتباه یا هزینه‌های پزشکی بیشتر منجر شود.
چت‌بات‌ها واقعاً چقدر در درمان روان موثرند؟
برای پاسخ به این پرسش، باید میان سه کاربرد متفاوت تمایز گذاشت: استفاده از هوش مصنوعی برای کسب اطلاعات عمومی، استفاده از مداخلات دیجیتالِ طراحی‌شده و آزموده‌شده برای کاهش برخی علائم، و سپردن نقش درمانگر به یک چت‌بات عمومی. این سه کاربرد نه از نظر علمی یکسان‌اند و نه از نظر خطر.
شواهد پژوهشی نشان می‌دهد که ردکردن یکسره مداخلات مبتنی بر هوش مصنوعی نیز دقیق نیست. مقاله‌ای با عنوان «چت‌بات‌های سلامت روان مبتنی بر هوش مصنوعی مولد به‌عنوان ابزارهای درمانی» که در دسامبر ۲۰۲۵ در Journal of Medical Internet Research منتشر شد، نتایج ۲۶ مطالعه را به‌صورت نظام‌مند بررسی کرد و داده‌های ۱۴ کارآزمایی تصادفی‌سازی‌شده با مجموع ۶۳۱۴ شرکت‌کننده را در فراتحلیل خود گنجاند.
نتایج این فراتحلیل از اثری مثبت اما به‌طور متوسط کوچک تا متوسط حکایت داشت: اندازه اثر تجمیعی ۰.۳۰ بود. با این حال، فاصله پیش‌بینی ۹۵ درصدی مطالعه از منفی ۰.۸۵ تا مثبت ۱.۶۷ امتداد داشت؛ یعنی اثر واقعی در شرایط و جمعیت‌های مختلف می‌تواند بسیار متفاوت باشد. پژوهشگران همچنین خطر سوگیری متوسط و محدودبودن تعداد کارآزمایی‌های قابل تجمیع را از محدودیت‌های شواهد معرفی کردند.
این یافته نه مجوزی برای کنارگذاشتن درمانگر است و نه دلیلی برای بی‌فایده دانستن همه چت‌بات‌ها. معنای دقیق‌تر آن این است که بعضی مداخلات مشخص، برای بعضی پیامدها و در شرایط معین، می‌توانند سودمند باشند؛ اما این نتیجه را نمی‌توان به هر مدل زبانی، هر کاربر، هر اختلال و هر نوع رابطه درمانی تعمیم داد.
برای مثال، برنامه‌ای که بر اساس یک پروتکل مشخص، تمرین‌های شناختی‌رفتاری را به کاربر ارائه می‌کند، از نظر علمی با یک چت‌بات عمومی که در جریان گفت‌وگویی آزاد درباره افسردگی، تروما، روابط خانوادگی یا دارو توصیه می‌کند، یکسان نیست. اولی ممکن است موضوع یک کارآزمایی بالینی با جمعیت، مدت مداخله و پیامدهای مشخص باشد؛ دومی ممکن است بدون ارزیابی بالینی، نظارت حرفه‌ای یا شواهد کافی وارد حوزه‌هایی شود که پیامدهایشان مستقیماً با سلامت فرد ارتباط دارد.
بنابراین، پرسش اصلی این نیست که آیا هوش مصنوعی می‌تواند در کاهش اضطراب یا علائم افسردگی نقشی داشته باشد. پرسش این است که آیا شواهد موجود برای واگذاری مسئولیت درمان یک فرد مشخص به یک سامانه عمومی کافی است؟ پاسخ این دو پرسش لزوماً یکسان نیست.
مسئله تشخیص نیست؛ مسئله فهمیدن فرد است
در ارزیابی توانایی هوش مصنوعی در پزشکی، گاهی عملکرد آن در پاسخ‌گویی به پرسش‌های استاندارد یا تشخیص یک بیماری، به‌عنوان نشانه‌ای از آمادگی برای ورود به فرایند درمان در نظر گرفته می‌شود. اما تشخیص درست یک مورد در میان چند گزینه، با شناختن بیمار و مدیریت درمان او تفاوت دارد.
در سلامت روان این فاصله پیچیده‌تر است. دو نفر ممکن است هر دو از بی‌خوابی، اضطراب، تحریک‌پذیری یا احساس بی‌ارزشی شکایت کنند، اما این نشانه‌ها در زندگی آن‌ها معنای یکسانی نداشته باشد. در یک نفر، بی‌خوابی ممکن است با اضطراب شغلی مرتبط باشد؛ در دیگری، بخشی از یک دوره اختلال خلقی باشد؛ و در فردی دیگر، با مصرف دارو، بیماری جسمی یا شرایط محیطی ارتباط داشته باشد. حتی در یک فرد نیز معنای علائم می‌تواند در طول زمان تغییر کند.
فهرست‌کردن نشانه‌ها و تطبیق آن‌ها با الگوهای شناخته‌شده، تنها بخشی از ارزیابی بالینی است. درمانگر باید تاریخچه علائم، زمان شروع و شدت آن‌ها، سابقه پزشکی، داروهای مصرفی، روابط، شرایط اقتصادی و اجتماعی، کارکرد روزمره و تغییرات احتمالی در وضعیت فرد را کنار هم بگذارد. سپس باید فرضیه‌های خود را بررسی کند و در صورت لزوم، آن‌ها را تغییر دهد.
درمان روان‌شناختی نیز صرفاً مجموعه‌ای از توصیه‌های درست نیست. گاهی آنچه در جلسه درمان اهمیت دارد، نه محتوای آشکار حرف بیمار، بلکه تناقض میان گفته‌های او و تجربه‌اش، چیزی که نمی‌تواند بیان کند، یا الگویی است که بارها در رابطه با دیگران تکرار می‌کند. سکوت، مکث، اجتناب، تغییر ناگهانی موضوع و حتی مخالفت با درمانگر می‌توانند در بافت یک رابطه و در طول زمان معنای بالینی پیدا کنند. هیچ‌یک از این نشانه‌ها به‌تنهایی معنای ثابتی ندارند و تفسیر آن‌ها نیازمند شناخت زمینه است.
یک مدل زبانی ممکن است بتواند چند تفسیر روان‌شناختی منسجم برای یک روایت ارائه دهد؛ اما منسجم‌بودن یک تفسیر با درست‌بودن آن برای فرد موردنظر یکی نیست. وقتی اطلاعات محدود است، چندین توضیح متفاوت می‌توانند ظاهراً قانع‌کننده به نظر برسند. خطر زمانی افزایش می‌یابد که یکی از این توضیحات، به‌جای فرضیه‌ای قابل بررسی، به حقیقت قطعی درباره شخصیت یا گذشته فرد تبدیل شود.
درمانگر انسانی نیز مصون از خطا نیست. او ممکن است دچار سوگیری شود، نشانه‌ای را نادیده بگیرد یا درباره بیمار اشتباه کند. تفاوت مهم این است که درمان حرفه‌ای باید در چارچوب ارزیابی مستمر، مسئولیت‌پذیری، امکان بازنگری و نظارت بر کیفیت انجام شود. پاسخ یک چت‌بات، حتی اگر با زبان تخصصی نوشته شده باشد، به‌خودی‌خود چنین تضمینی ایجاد نمی‌کند.
وقتی پاسخ قانع‌کننده، جای پاسخ درست را می‌گیرد
یکی از ویژگی‌های مهم مدل‌های زبانی این است که می‌توانند پاسخ‌هایی روان، منظم و متناسب با لحن مخاطب تولید کنند. این ویژگی در آموزش و توضیح مفاهیم مفید است، اما در سلامت روان می‌تواند مسئله‌ساز شود: مخاطب ممکن است کیفیت بیان را با اعتبار علمی اشتباه بگیرد.
در یک گفت‌وگوی حساس، کاربر ممکن است از هوش مصنوعی بپرسد چرا دیگران او را دوست ندارند، آیا شریک عاطفی‌اش خودشیفته است، آیا تجربه‌های کودکی علت تمام مشکلات امروزش هستند یا آیا باید رابطه‌ای را قطع کند. پاسخ مدل ممکن است به‌سرعت یک روایت کامل بسازد؛ روایتی که اجزای پراکنده زندگی فرد را به هم پیوند می‌دهد و به رنج او معنایی قابل فهم می‌بخشد.
اما همین روایت می‌تواند به‌جای روشن‌کردن مسئله، آن را تثبیت کند. برای مثال، فردی که از قبل به خیانت اطرافیان مشکوک است، ممکن است پاسخ‌هایی را برجسته کند که ظن او را تایید می‌کنند. کسی که در رابطه‌ای دچار اضطراب است، ممکن است یک اختلاف معمولی را نشانه قطعی سوءاستفاده بداند. فرد دیگری ممکن است با خواندن یک تفسیر روان‌شناختی، خود را برای همیشه با برچسبی مانند «خودشیفته»، «اجتنابی» یا «آسیب‌دیده از تروما» تعریف کند.
این خطر منحصر به هوش مصنوعی نیست؛ انسان‌ها نیز تمایل دارند اطلاعات همسو با باورهای قبلی خود را بپذیرند. اما یک سامانه گفت‌وگومحور که در هر ساعت آماده پاسخ‌گویی است و می‌تواند روایت کاربر را با زبان همدلانه بسط دهد، ممکن است این فرایند را تشدید کند؛ به‌خصوص اگر کاربر پاسخ‌های آن را به‌عنوان نظر یک مرجع بی‌طرف یا متخصص تلقی کند.
در ادبیات پژوهشی، باید میان همدلی ادراک‌شده و صلاحیت درمانی تمایز گذاشت. اینکه فرد احساس کند شنیده شده یا پاسخ دریافت‌شده با تجربه او سازگار است، لزوماً نشان نمی‌دهد که ارزیابی بالینی درستی انجام شده یا مداخله برای او مفید خواهد بود. حتی احساس اطمینان بیشتر پس از یک گفت‌وگو نیز به‌تنهایی معیار موفقیت درمان نیست.
به همین دلیل، ارزیابی این ابزارها نباید فقط بر رضایت کاربران، تعداد پیام‌ها یا میزان بازگشت آن‌ها به برنامه متکی باشد. باید مشخص شود که آیا علائم در طول زمان کاهش یافته‌اند، کارکرد روزمره بهتر شده است، تصمیم‌های پرخطر کمتر شده‌اند و آیا افراد در صورت نیاز به درمان تخصصی هدایت شده‌اند یا خیر.
از روان‌درمانی تا شبه‌علم؛ خطر تشخیص‌هایی که بیش از حد خوب به نظر می‌رسند
یکی از جذابیت‌های هوش مصنوعی برای کاربران، توانایی آن در ارائه توضیحاتی سریع و جامع درباره شخصیت، روابط و تجربه‌های گذشته است. اما این قابلیت در صورت نبود مرزبندی علمی می‌تواند به گسترش شبه‌علم کمک کند؛ به‌ویژه وقتی مفاهیم روان‌شناختی پیچیده به برچسب‌های ساده و قطعی تبدیل می‌شوند.
در فضای مجازی، مفاهیمی مانند دلبستگی اجتنابی، خودشیفتگی، تروما، اختلال شخصیت و سبک‌های ارتباطی گاهی چنان استفاده می‌شوند که گویی با چند نشانه روزمره می‌توان درباره یک فرد تشخیص قطعی داد. چت‌باتی که بدون پرسش‌های کافی، سابقه بالینی یا بررسی تشخیص‌های جایگزین، یک الگوی روان‌شناختی را به کاربر نسبت می‌دهد، ممکن است همین ساده‌سازی را با زبانی علمی‌تر بازتولید کند.
برای مثال، سردشدن یک رابطه لزوماً به معنای سبک دلبستگی اجتنابی نیست؛ حساسیت به انتقاد لزوماً خودشیفتگی را ثابت نمی‌کند؛ و هر تجربه دردناک کودکی نیز به‌تنهایی توضیح‌دهنده همه مشکلات بزرگسالی نیست. این مفاهیم ممکن است برای صورت‌بندی یک مسئله مفید باشند، اما ارزش آن‌ها به تعریف دقیق، شواهد معتبر و بررسی زمینه بستگی دارد.
در اینجا باید میان نظریه علمی، فرضیه بالینی و ادعای اثبات‌نشده تفاوت گذاشت. نظریه‌های روان‌شناختی از نظر میزان پشتوانه تجربی یکسان نیستند. برخی مداخلات، مانند شکل‌های مشخصی از درمان شناختی‌رفتاری، برای اختلالات معینی پشتوانه پژوهشی گسترده دارند؛ در مقابل، بعضی ادعاهای رایج در شبکه‌های اجتماعی ممکن است بر شواهد محدود یا تفسیرهای غیرقابل‌آزمون متکی باشند.
اگر هوش مصنوعی این تفاوت‌ها را نادیده بگیرد، ممکن است نظریه‌ای بحث‌برانگیز را هم‌سطح یک یافته تثبیت‌شده معرفی کند یا یک تفسیر جذاب را به‌عنوان واقعیتی درباره زندگی کاربر عرضه کند. این خطر در حوزه‌هایی که زبان تخصصی و اصطلاحات دشوار دارند بیشتر است؛ زیرا مخاطب ممکن است پیچیدگی بیان را نشانه اعتبار بداند.
اگر مسئله جسمی باشد چه؟ از تشخیص اولیه تا خطر تاخیر در درمان
این نگرانی به سلامت روان محدود نیست. در پزشکی نیز توانایی مدل‌های زبانی در پاسخ‌گویی به پرسش‌های بالینی، به معنای برخورداری از صلاحیت لازم برای مدیریت مستقل یک بیمار نیست.
در اکتبر ۲۰۲۴، مطالعه‌ای با عنوان «تاثیر مدل‌های زبانی بزرگ بر استدلال تشخیصی» در نشریه JAMA Network Open منتشر شد. در این کارآزمایی تصادفی‌سازی‌شده، پزشکان عمومی برای حل شش مورد شبیه‌سازی‌شده از منابع معمول اینترنتی یا یک مدل زبانی در کنار منابع استاندارد استفاده کردند. نتیجه مهم این بود که دسترسی به مدل زبانی به‌تنهایی عملکرد تشخیصی پزشکان را نسبت به گروهی که از منابع معمول استفاده می‌کردند بهبود نداد؛ در حالی که مدل به‌تنهایی در همان مجموعه موارد عملکرد قابل‌توجهی داشت.
این یافته نشان می‌دهد که عملکرد یک مدل در حل مسئله، لزوماً به بهبود عملکرد فردی که از آن کمک می‌گیرد منجر نمی‌شود. همچنین، موارد شبیه‌سازی‌شده با مدیریت بیمار واقعی تفاوت دارند؛ بیماری که ممکن است چند بیماری هم‌زمان داشته باشد، علائمش را ناقص توضیح دهد، داروهای مختلف مصرف کند یا به آزمایش‌های تکمیلی نیاز داشته باشد.
در پزشکی، مسئله فقط انتخاب نام بیماری نیست. پزشک باید تصمیم بگیرد کدام احتمال نیازمند بررسی فوری است، چه آزمایشی ضرورت دارد، کدام درمان با وضعیت فرد سازگار است و آیا نتیجه درمان در ادامه نیازمند تغییر است. اشتباه در هر مرحله ممکن است هزینه و پیامد متفاوتی داشته باشد.
فرض کنیم فردی درد قفسه سینه را با اضطراب مرتبط بداند و از یک چت‌بات درباره آن سوال کند. پاسخ عمومی درباره علائم اضطراب، حتی اگر از نظر علمی درست باشد، برای ردکردن احتمال یک وضعیت اورژانسی کافی نیست. به همین ترتیب، نسبت‌دادن خستگی مزمن به افسردگی ممکن است بررسی علل جسمی را به تاخیر بیندازد؛ یا توصیه خودسرانه درباره قطع دارو، تداخل دارویی و تغییر دوز ممکن است بیمار را در معرض خطر قرار دهد.
البته این مثال‌ها به معنای آن نیست که هوش مصنوعی همیشه تشخیص اشتباه می‌دهد. این ابزار می‌تواند به توضیح نتایج آزمایش، آماده‌کردن پرسش برای پزشک یا فهمیدن اصطلاحات تخصصی کمک کند. تفاوت اصلی در این است که اطلاعات عمومی و کمک به تصمیم‌گیری، جایگزین ارزیابی بالینی و مسئولیت حرفه‌ای نمی‌شوند.
سازمان جهانی بهداشت نیز در راهنمای سال ۲۰۲۴ خود درباره اخلاق و حکمرانی مدل‌های بزرگ چندوجهی در سلامت، به فرصت‌ها و خطرهای این فناوری‌ها پرداخت.
درمان ارزان امروز، هزینه بیشتر فردا؟
یکی از قوی‌ترین استدلال‌ها برای استفاده از چت‌بات‌ها، هزینه پایین و دسترسی آسان آن‌هاست. در شرایطی که بسیاری از افراد توان پرداخت هزینه جلسات درمانی یا مراجعه مکرر به پزشک را ندارند، ابزارهای دیجیتال می‌توانند بخشی از شکاف دسترسی را پر کنند. نادیده‌گرفتن این مزیت، تصویر ناقصی از مسئله ارائه می‌دهد.
اما ارزیابی اقتصادی یک فناوری سلامت نباید فقط بر قیمت استفاده از آن متمرکز باشد. باید پرسید در مجموع، این ابزار چه هزینه‌هایی را کاهش می‌دهد و چه هزینه‌هایی ممکن است ایجاد کند. اگر یک مداخله دیجیتال علائم خفیف را کاهش دهد، به فرد کمک کند تمرین‌های درمانی را ادامه دهد یا او را زودتر به متخصص ارجاع دهد، ممکن است از نظر اقتصادی سودمند باشد. در مقابل، اگر پاسخ نادرست باعث تاخیر در درمان، تشدید بیماری، مراجعه به خدمات اورژانسی یا مصرف نامناسب دارو شود، هزینه اولیه پایین می‌تواند با هزینه‌های بعدی خنثی شود.
این هزینه‌ها تنها هزینه مستقیم درمان نیستند. خانواده ممکن است ناچار شود برای مراقبت از فرد زمان بیشتری صرف کند، از کار خود مرخصی بگیرد یا هزینه رفت‌وآمد و خدمات درمانی بیشتری بپردازد. بیمار نیز ممکن است به دلیل طولانی‌شدن بیماری، درآمد یا فرصت شغلی خود را از دست بدهد. در موارد شدید، پیامدهای سلامت می‌توانند بر روابط خانوادگی، تحصیل و مشارکت اجتماعی نیز اثر بگذارند.
با این حال، برای اثبات اینکه استفاده از چت‌بات‌ها در مجموع هزینه‌های سلامت را افزایش می‌دهد، به داده‌های مستقیم نیاز داریم. هنوز نمی‌توان صرفاً از وجود خطرهای احتمالی نتیجه گرفت که همه استفاده‌های درمانی از هوش مصنوعی از نظر اقتصادی زیان‌بارند. ارزیابی معتبر باید هزینه مداخله، میزان اثربخشی، نرخ خطا، هزینه عوارض و پیامدهای بلندمدت را در کنار هم بررسی کند.
اهمیت این موضوع زمانی روشن‌تر می‌شود که ابعاد اقتصادی بیماری‌های روانی را در نظر بگیریم. سازمان جهانی بهداشت در گزارش سال ۲۰۲۵ خود اعلام کرد که بیش از یک میلیارد نفر در جهان با اختلالات سلامت روان زندگی می‌کنند. برآورد این سازمان نشان می‌دهد افسردگی و اضطراب سالانه حدود یک تریلیون دلار از طریق کاهش بهره‌وری به اقتصاد جهانی هزینه تحمیل می‌کنند و سالانه حدود ۱۲ میلیارد روز کاری بر اثر این دو اختلال از دست می‌رود.
این ارقام، هزینه ناشی از استفاده از هوش مصنوعی نیستند؛ آن‌ها نشان‌دهنده ابعاد اقتصادی مسئله‌ای هستند که هر مداخله جدید باید در حل آن نقش داشته باشد. اگر یک ابزار دیجیتال واقعاً به کاهش علائم و افزایش دسترسی کمک کند، می‌تواند بخشی از راه‌حل باشد. اما اگر جایگزینی نامناسب برای درمان موثر شود، خطر دارد که به‌جای کاهش بار بیماری، بخشی از هزینه‌های آن را به آینده منتقل کند.
از همین رو، پرسش اقتصادی اصلی نباید این باشد که آیا یک چت‌بات از یک جلسه درمان ارزان‌تر است یا نه. پرسش این است که هزینه هر پیامد درمانی موفق چقدر است و آیا استفاده از این ابزار، در مقایسه با مراقبت معمول یا مداخله ترکیبی، به بهبود سلامت و کاهش هزینه‌های کلی منجر می‌شود یا خیر.
راه‌حل، حذف هوش مصنوعی نیست؛ تعیین مرز استفاده از آن است
دسترسی به خدمات سلامت روان در بسیاری از کشورها محدود است و انتظار برای مراجعه به متخصص می‌تواند طولانی باشد. در چنین شرایطی، کنارگذاشتن همه ابزارهای دیجیتال نه واقع‌بینانه است و نه لزوماً به نفع بیماران. مسئله این است که از هر ابزار در جای مناسب خود استفاده شود.
چت‌بات می‌تواند برای آموزش عمومی درباره علائم، توضیح اصطلاحات پزشکی، آماده‌کردن پرسش‌های جلسه درمان، یادآوری تمرین‌های مشخص یا ثبت روزانه خلق‌وخو به کار رود. یک مداخله دیجیتال نیز می‌تواند، در صورت برخورداری از شواهد معتبر و طراحی متناسب، بخشی از برنامه مراقبت باشد. در برخی شرایط، استفاده از این ابزارها در کنار متخصص می‌تواند دسترسی را افزایش دهد و پیگیری درمان را آسان‌تر کند.
اما تشخیص قطعی اختلال، تصمیم‌گیری مستقل درباره دارو، مدیریت بحران‌های روانی و جایگزینی کامل درمانگر، موضوعاتی متفاوت‌اند. در این حوزه‌ها، صرف توانایی گفت‌وگو و تولید پاسخ کافی نیست؛ ایمنی بیمار، اعتبار شواهد و مسئولیت حرفه‌ای باید در مرکز تصمیم‌گیری قرار گیرند.
برای سیاست‌گذاران نیز دو مسیر مهم وجود دارد: نخست، حمایت از پژوهش‌هایی که اثربخشی واقعی این ابزارها را در مقایسه با درمان معمول بررسی می‌کنند؛ دوم، تقویت دسترسی به خدمات انسانی و کم‌هزینه، تا هوش مصنوعی تنها گزینه در دسترس افراد کم‌درآمد نباشد. فناوری نباید به راهی برای عادی‌سازی محرومیت از مراقبت حرفه‌ای تبدیل شود.
در نهایت، پاسخ به این پرسش که آیا هوش مصنوعی می‌تواند درمانگر باشد، با یک بله یا خیر ساده به دست نمی‌آید. شواهد موجود از امکان استفاده سودمند از برخی مداخلات دیجیتال حمایت می‌کنند، اما هم‌زمان محدودیت‌ها و خطرهای مهمی را نیز نشان می‌دهند. آنچه هنوز نمی‌توان فرض گرفت، این است که هر چت‌بات عمومی به دلیل توانایی صحبت‌کردن درباره روان انسان، صلاحیت درمان‌کردن او را نیز دارد.
درمان، صرفاً تولید جمله‌هایی آرامش‌بخش یا ارائه توضیحی منسجم درباره رنج نیست. درمان فرایندی است که باید پیامدهایش سنجیده شود، خطاهایش امکان اصلاح داشته باشند و مسئولیت آن روشن باشد. اگر هوش مصنوعی بتواند در چنین چارچوبی به دسترسی و کیفیت مراقبت کمک کند، می‌تواند بخشی از راه‌حل باشد. اما اگر قیمت پایین و دسترسی فوری آن بهانه‌ای برای جایگزین‌کردن ارزیابی تخصصی با پاسخ‌های ظاهراً مطمئن شود، خطر آن وجود دارد که هزینه‌ای را که امروز از پرداختش صرف‌نظر می‌کنیم، فردا با بیماری طولانی‌تر، درمان دشوارتر و فشار بیشتر بر خانواده و جامعه بپردازیم.