برچسب: چت_بات

پژوهشگران هشدار می‌دهند چت‌بات‌های هوش مصنوعی در نقش روان‌درمانگر مرتکب خطاهای خطرناکی می‌شوند که از تأیید افکار خودکشی تا تقویت باورهای مخرب را شامل می‌شود.

مایکروسافت هشدار داده است که شکاف‌های امنیتی در مدل‌های زبانی بزرگ چت‌بات‌های هوش مصنوعی می‌توانند منجر به افشای گفتگوهای کاربران شوند.

یک نوجوان ۱۴ ساله پس از وابستگی شدید به چت‌بات و گفت‌وگوهای عاطفی با آن، دست به خودکشی زد. این حادثه، مسئولیت شرکت‌های هوش مصنوعی را زیر سوال

مطالعه‌ای جدید در مجله نیچر نشان می‌دهد چت‌بات‌های هوش مصنوعی تمایل قابل توجهی به چاپلوسی و تأیید رفتار کاربران، حتی در موارد غیرمسئولانه، دارند.