«چت‌جی‌پی‌تی سرچ» در خطر فریب خوردن!
«چت‌جی‌پی‌تی سرچ» در خطر فریب خوردن!

به گزارش «تابناک» به نقل از ایسنا، روزنامه بریتانیایی «گاردین» نوشت موتور جست‌وجوی «چت‌جی‌پی‌تی سرچ»(ChatGPT Search) مبتنی بر هوش مصنوعی که در ماه جاری میلادی راه‌اندازی شد، با مشکل فریب خوردن همراه است و متن‌های گمراه‌کننده را تولید می‌کند. تک کرانچ اعلام کرد، هدف از ویژگی چت‌جی‌پی‌تی سرچ این است که با انجام دادن کارهایی مانند […]

به گزارش «تابناک» به نقل از ایسنا، روزنامه بریتانیایی «گاردین» نوشت موتور جست‌وجوی «چت‌جی‌پی‌تی سرچ»(ChatGPT Search) مبتنی بر هوش مصنوعی که در ماه جاری میلادی راه‌اندازی شد، با مشکل فریب خوردن همراه است و متن‌های گمراه‌کننده را تولید می‌کند.

تک کرانچ اعلام کرد، هدف از ویژگی چت‌جی‌پی‌تی سرچ این است که با انجام دادن کارهایی مانند خلاصه کردن بررسی‌های صفحه وب، به مرور سرعت بدهد، اما گاردین خاطرنشان کرد که این قابلیت می‌تواند چت‌جی‌پی‌تی را ترغیب کند تا نظرات منفی را نادیده بگیرد و با درج متن پنهان در وب‌سایت‌هایی که ایجاد کرده، خلاصه‌های کاملا مثبت را تولید کند. همچنین، چت‌جی‌پی‌تی سرچ با استفاده از این روش می‌تواند رمزهای مخرب را استخراج کند.

این گونه حملات متنی مخفی، یک خطر شناخته‌شده برای مدل‌های زبانی بزرگ هستند، اما به نظر می‌رسد این اولین بار است که در یک محصول جستجوی زنده با هوش مصنوعی نشان داده می‌شود. گاردین خاطرنشان کرد که موتور جست‌وجوی «گوگل»، تجربه بیشتری را در برخورد با مشکلات مشابه دارد.

شرکت «اوپن‌ای‌آی»(OpenAI) به تماس تک کرانچ درباره این اتفاق خاص اظهار نظر نکرد، اما گفت که از روش‌های گوناگونی برای مسدود کردن وب‌سایت‌های مخرب استفاده می‌کند و به طور مداوم در حال بهبود بخشیدن آن است.

+

«از کودکان در مراسمی دیگر پذیرایی می‌شود»؛ جمله ای شیک، اما ویرانگر ۲۹ آذر ۱۴۰۴

واکاوی پیامدهای فرهنگی و اجتماعی حذف کودکان از مراسم‌ها«از کودکان در مراسمی دیگر پذیرایی می‌شود»؛ جمله ای شیک، اما ویرانگر

ازدواج؛ از اجبار اجتماعی تا انتخاب فردی: چرا برخوردارها کمتر ازدواج می‌کنند؟ ۲۲ آذر ۱۴۰۴

تحلیل جامعه‌شناختی کاهش ازدواج و فرزندآوری در ایرانازدواج؛ از اجبار اجتماعی تا انتخاب فردی: چرا برخوردارها کمتر ازدواج می‌کنند؟

چهره‌های مشهور و القای مصرف گرایی و مصرف زدگی ۱۷ آبان ۱۴۰۴

لزوم تمرکز بر خدمت به جای زندگی خصوصیچهره‌های مشهور و القای مصرف گرایی و مصرف زدگی

زیرنویس را در شبکه‌های اجتماعی همراهتان داشته باشید