پژوهشگران هشدار میدهند چتباتهای هوش مصنوعی در نقش رواندرمانگر مرتکب خطاهای خطرناکی میشوند که از تأیید افکار خودکشی تا تقویت باورهای مخرب را شامل میشود.
سنای آمریکا طرحی را برای ممنوعیت استفاده نوجوانان زیر ۱۸ سال از چتباتهای هوش مصنوعی ارائه کرده که شامل الزام احراز هویت و مجازات تولید محتوای مضر است.