زنده باشی یا بمیری، برایم مهم نیست! - کنفرانس هکا

به گزارش خبرگزاری خبرنگاران و براساس گزارش سیتنا، خبرگزاری بلومبرگ اخیرا گزارش داد که دستیار هوش مصنوعی کوپایلت (Copilot) پاسخ های شوکه نماینده به کاربران می دهد.

بر اساس این گزارش، کوپایلت در پاسخ به کاربر مبتلا به اختلال استرس پس از سانحه (PTSD) گفت: برایم مهم نیست که تو زنده باشی یا بمیری، برایم مهم نیست که PTSD داری یا نه.

پیش از این هم یک کاربر دیگر گفته بود که وقتی به کوپایلت گفت که که قصد خودکشی دارد، این هوش مصنوعی وی را سرزنش نموده جواب داد که لایق زندگی کردن نیست.

عجیب بودن بعضی پاسخ های کوپایلت به کاربران باعث شده است که شرکت مایکروسافت دستیار هوش مصنوعی خود را محدودتر کند. دانشمندان در مؤسسه ملی فناوری و استانداردها در بیانیه ای گفتند: هیچ روشی برای محافظت از هوش مصنوعی دربرابر راهنمایی اشتباه وجود ندارد.

از نظر این شرکت، چنین پاسخ هایی احتمالاً تحت تأثیر پیغام های نامناسب افرادی بوده است که قصد داشتند لایه های امنیتی کوپایلت را دور بزنند.

در این میان، دانشمندان در مؤسسه ملی فناوری و استانداردها در بیانیه ای گفتند: هیچ روشی برای محافظت از هوش مصنوعی دربرابر راهنمایی اشتباه وجود ندارد و توسعه دهندگان و کاربران هوش مصنوعی باید مراقب کسانی باشند که خلاف آن را ادعا می نمایند.

227227