گزارش نگران‌کننده: چگونه هاگینگ فیس به بستری برای تولید تصاویر برهنه جعلی با هوش مصنوعی تبدیل شد؟

پلتفرم متن‌باز هاگینگ فیس (Hugging Face) که یکی از بزرگ‌ترین مخازن مدل‌های هوش مصنوعی در جهان محسوب می‌شود، با انتقادهای جدی درباره‌ی سوءاستفاده از مدل‌های موجود در این سرویس روبه‌رو شده است. یک گزارش جدید نشان می‌دهد برخی مدل‌های ویرایش تصویر در این پلتفرم می‌توانند برای تولید تصاویر برهنه‌ی جعلی از افراد، بدون رضایت آن‌ها، مورد استفاده قرار بگیرند.

بر اساس بررسی‌های انجام‌شده توسط مؤسسه‌ی غیرانتفاعی AI Forensics، بسیاری از مدل‌های محبوب ویرایش تصویر در هاگینگ فیس فاقد سیستم‌های حفاظتی کافی هستند و می‌توانند درخواست‌های مربوط به حذف لباس از تصاویر افراد را پردازش کنند.

بررسی هزاران درخواست؛ بیشتر آن‌ها با هدف سوءاستفاده جنسی

پژوهشگران برای آزمایش وضعیت امنیتی این پلتفرم، چند محیط آزمایشی ایجاد کردند تا نحوه‌ی استفاده کاربران از مدل‌های تولید و ویرایش تصویر را بررسی کنند.

در طول یک هفته، بیش از هزار درخواست و تصویر مورد بررسی قرار گرفت. نتایج نشان داد حدود ۷۳ درصد از درخواست‌ها ماهیت جنسی داشتند. همچنین از میان درخواست‌های جنسی، حدود ۸۳ درصد مربوط به تولید تصاویر برهنه از افراد واقعی بود.

بررسی دقیق‌تر نشان داد که بیشتر این درخواست‌ها مربوط به تصاویر زنان بوده و بخشی از آن‌ها نیز شامل تصاویر افراد کم‌سن‌وسال بوده است؛ موضوعی که نگرانی‌های جدی درباره‌ی امنیت کاربران و امکان سوءاستفاده از هوش مصنوعی ایجاد کرده است.

تفاوت با سرویس‌های تجاری هوش مصنوعی

در حالی که سرویس‌هایی مانند ChatGPT از شرکت OpenAI و Gemini گوگل دارای سیستم‌های محدودکننده برای جلوگیری از تولید محتوای جنسی غیرمجاز هستند، مدل‌های موجود در پلتفرم‌های متن‌باز مانند هاگینگ فیس معمولاً به توسعه‌دهندگان وابسته‌اند و سطح محافظت یکسانی ندارند.

پژوهشگران می‌گویند در بسیاری از مدل‌های بررسی‌شده، هیچ سیستم جدی برای تشخیص درخواست‌های خطرناک یا جلوگیری از تولید تصاویر سوءاستفاده‌آمیز وجود نداشته است.

انتقاد از نبود کنترل‌های کافی در هاگینگ فیس

پل بوشو، پژوهشگر ارشد AI Forensics، اعلام کرده است که بسیاری از محیط‌های آزمایش‌شده عملاً برای تولید تصاویر جنسی بدون رضایت افراد استفاده می‌شوند و کاربران نیز با همین هدف به سراغ آن‌ها می‌روند.

به گفته‌ی او، اگرچه قوانین رسمی هاگینگ فیس تولید تصاویر برهنه بدون رضایت افراد و همچنین محتوای مربوط به کودکان را ممنوع کرده است، اما اجرای این قوانین در سطح پلتفرم هنوز کافی نیست.

در حال حاضر بیشتر مسئولیت ایجاد محدودیت‌ها بر عهده‌ی توسعه‌دهندگان مدل‌ها قرار دارد و بسیاری از آن‌ها سیستم‌های حفاظتی قدرتمندی به مدل‌های خود اضافه نکرده‌اند.

راهکارهای پیشنهادی برای جلوگیری از سوءاستفاده

کارشناسان AI Forensics پیشنهاد کرده‌اند که هاگینگ فیس و سایر پلتفرم‌های مشابه، سیستم‌های امنیتی گسترده‌تری ایجاد کنند؛ از جمله:

• بررسی و فیلتر کردن درخواست‌های ورودی کاربران

• تحلیل خودکار تصاویر خروجی برای شناسایی محتوای غیرمجاز

• اعمال استانداردهای امنیتی اجباری برای مدل‌های منتشرشده

• نظارت بیشتر بر مدل‌های تولید تصویر و ویدیو

آینده هوش مصنوعی و چالش‌های اخلاقی

رشد سریع مدل‌های هوش مصنوعی مولد، امکانات بسیار زیادی برای خلاقیت، طراحی، آموزش و تولید محتوا ایجاد کرده است؛ اما در کنار این مزایا، خطر سوءاستفاده نیز افزایش یافته است.

کارشناسان معتقدند پلتفرم‌های متن‌باز باید بین آزادی توسعه‌دهندگان و محافظت از کاربران تعادل ایجاد کنند؛ زیرا بدون وجود سیستم‌های امنیتی مناسب، ابزارهای قدرتمند هوش مصنوعی می‌توانند به وسیله‌ای برای آسیب رساندن به افراد تبدیل شوند.

در نهایت، مشکل اصلی خود فناوری هوش مصنوعی نیست، بلکه نبود کنترل و مسئولیت‌پذیری کافی در نحوه‌ی ارائه و استفاده از این ابزارها است.