یک محقق مدعی است چت جی پی تی نمی تواند بین محتوای تولیدی خود و محتوایی که با زبان نشانه گذاری Markdown که توسط هکرها کنترل می شود و از منابع خارجی استخراج شده، تمایز قائل شود.
به گزارش خبرگزاری مهر به نقل از رجیستر، یک محقق امنیتی از کشف روشی برای «تزریق پرومپت» در چت‌بات‌های هوش مصنوعی خبر داده و این آسیب‌پذیری را به اوپن‌ای‌آی گزارش کرده است.
بر اساس این گزارش، اگر کاربری از یک چت‌بات بخواهد صفحه وبی را که حاوی دستورهای مخفی است خلاصه کند، آن صفحه می‌تواند به بستری برای اجرای حملات مخرب تبدیل شود. در چنین شرایطی، مهاجم قادر است از اعتماد چت‌بات سوءاستفاده کرده و لینک‌های فیشینگ را در پاسخ‌ها قرار دهد یا حتی مدل را به نمایش هشدارهای امنیتی جعلی با ظاهری مشابه پیام‌های رسمی چت‌جی‌پی‌تی وادار کند.
«اندی احمتی»، پژوهشگر این مطالعه، همچنین نشان داده است که مجرمان سایبری چگونه می‌توانند با استفاده از کدهای QR، حمله را از مرورگر وب کاربر به دستگاه تلفن همراه او منتقل کنند. در این سناریو، قربانی با اسکن کد QR به محتوایی هدایت می‌شود که در یک مخزن S3 تحت کنترل مهاجم قرار دارد. این روش به هکرها اجازه می‌دهد از بسیاری از سازوکارهای دفاعی مبتنی بر دسکتاپ، از جمله فهرست‌های مسدودسازی URL و سامانه‌های بررسی دامنه در ابزارهای مدیریت رمز عبور، عبور کنند.
احمتی در ادامه تأکید می‌کند: «سیستم‌های هوش مصنوعی به‌طور فزاینده‌ای محتوای تأییدنشده را مستقیماً در مرورگر کاربران نمایش می‌دهند و این موضوع سطح ریسک را به‌طور قابل‌توجهی افزایش می‌دهد.»
وی می‌افزاید: «نگرانی بزرگ‌تر این است که محصولات هوش مصنوعی روزبه‌روز بیشتر به محیط‌های مرورگر یا حتی سیستم‌عامل‌ها شباهت پیدا می‌کنند؛ موضوعی که سطح حملات و تهدیدهای امنیتی را به‌مراتب گسترده‌تر می‌کند.»
با این حال، هنوز مشخص نیست که این آسیب‌پذیری به‌طور کامل برطرف شده است یا خیر.
کد مطلب 6845649 
شیوا سعیدی
-
مدیر اوپن ای آی: هوش مصنوعی مشاغل را نابود نمی‌کند
-
سرویس پولی چت جی پی تی برای شهروندان مالت رایگان شد
-
قربانیان تیراندازی در کانادا از اوپن ای آی شکایت کردند
-
مدیر اوپن ای آی بابت حادثه تیراندازی عذرخواهی کرد
-
هشدار قرمز وضعیت جمعیتی در مازندران؛ رویداد ایران ۱۴۳۰ برگزار می‌شود
-
شنیده شدن صدای انفجار در محدوده جزیره قشم
-
جهش ۸ درصدی ترددهای جاده‌ای در استان فارس
-
نیم قرن اشتباه راهبردی؛ آنچه پایگاه‌های آمریکا بر سر خلیج فارس آورد
-
حملات جدید حزب الله لبنان علیه نظامیان صهیونیست
-
تداوم حملات اسرائیل به لبنان؛ فرانسه خواستار نشست شورای امنیت شد
-
حمایت از واحدهای صنعتی و تولیدی در گلستان تداوم دارد
-
کشف سیگار و تنباکوهای ۴۲ میلیاردی قاچاق در فراشبند
-
هشدار درباره آسیب‌پذیری جدید چت‌جی‌پی‌تی
-
ذاکری: توسعه فناوری باید به موتور محرک راه‌آهن تبدیل شود
-
علت تغییر ناگهانی بارش‌ها چیست؟؛ تابستانی گرم‌تر از نرمال در راه است
-
دو عامل مرتبط با رژیم صهیونیستی در ارومیه دستگیر شدند
-
احتمال شنیده شدن صدای انفجار کنترل شده در خارج از محدوده یزد
-
یک کار چاق‌کن مدعی نفوذ در دادسرای عمومی و انقلاب بروجرد بازداشت شد
-
معاون استاندار تهران:مبالغ وام ازدواج با هزینه‌های تهران همخوانی ندارد
-
توقف تردد دریایی چارک–کیش از ساعت ۱۳ امروز
-
زندگی بیماران دیالیزی در گرو پرداخت هزاران میلیاردی بیمه‌ها
-
تداوم بوی بد پساب کارخانه قند یاسوج؛ وعده ها بر زمین ماند
-
فرآوری ۲۶۰ هزار تن خرما در آذربایجان‌شرقی بدون یک اصله نخل
-
مطهری‌زاده: ۲۱۵ تن برنج احتکاری در خراسان شمالی ضبط شد
-
روزنامه‌های صبح یکشنبه ۱۰ خرداد ۱۴۰۵
-
روزنامه‌های ورزشی یکشنبه ۱۰ خرداد ۱۴۰۵
-
روزنامه‌های اقتصادی یکشنبه ۱۰ خرداد ۱۴۰۵
-
روزنامه‌های ورزشی شنبه نهم خرداد ۱۴۰۵
-
روزنامه‌های اقتصادی شنبه نهم خرداد ۱۴۰۵
- پرشین هتل
- قطعات لباسشویی
- نمایندگی بوش در تهران
- بهترین جراح بینی
- آموزشگاه زبان ملل
- قیمت و خرید سمعک نامرئی
- مهرینو
- تهران تایمز
- روزنامه آگاه