انویدیا و مایکروسافت برای افزایش امنیت هوش مصنوعی ائتلافی جدید تشکیل دادند

همکاری غول‌های فناوری برای توسعه ابزارهای متن‌باز امنیت هوش مصنوعی

شرکت انویدیا با همکاری مایکروسافت و جمعی از بزرگ‌ترین شرکت‌های فناوری جهان، از تشکیل ائتلافی جدید با هدف توسعه و اشتراک‌گذاری ابزارهای متن‌باز امنیت هوش مصنوعی خبر داد. این همکاری با هدف افزایش توان دفاعی در برابر تهدیدات سایبری و حملات مبتنی بر هوش مصنوعی شکل گرفته و می‌تواند نقش مهمی در آینده امنیت این فناوری ایفا کند.

ائتلاف «هوش مصنوعی امن آزاد» با حضور شرکت‌های بزرگ

ائتلاف جدید که با نام Secure Open AI Coalition یا «ائتلاف هوش مصنوعی امن آزاد» معرفی شده، تلاش می‌کند مجموعه‌ای از ابزارها، چارچوب‌ها و فناوری‌های متن‌باز را برای شناسایی و مقابله با تهدیدهای نوظهور در حوزه هوش مصنوعی توسعه دهد.

اعضای مؤسس این ائتلاف علاوه بر انویدیا و مایکروسافت، شامل شرکت‌ها و سازمان‌هایی مانند اسپیس‌ایکس، آی‌بی‌ام، پالانتیر، بنیاد لینوکس، کلادفلر، کلودرا، دل، سیسکو، ادوبی، زیمنس و دوردش هستند.

افزایش نگرانی‌ها درباره امنیت مدل‌های هوش مصنوعی

تشکیل این ائتلاف در شرایطی صورت می‌گیرد که نگرانی‌ها درباره امنیت مدل‌های پیشرفته هوش مصنوعی روزبه‌روز افزایش یافته است. با گسترش استفاده از مدل‌های قدرتمند، احتمال سوءاستفاده از آن‌ها برای حملات سایبری، تولید بدافزار یا دور زدن سامانه‌های امنیتی نیز بیشتر شده است.

اعضای این ائتلاف معتقدند مقابله با چنین تهدیدهایی تنها با همکاری گسترده جامعه فناوری و توسعه ابزارهای امنیتی متن‌باز امکان‌پذیر خواهد بود.

ماجرای هاگینگ فیس و استفاده از مدل متن‌باز

یکی از موضوعاتی که توجه بسیاری را به خود جلب کرد، گزارش اخیر مربوط به هاگینگ فیس بود. این شرکت اعلام کرد برای تقویت توان دفاعی خود در برخی آزمایش‌های امنیتی، از یک مدل هوش مصنوعی متن‌باز توسعه‌یافته در چین استفاده کرده است.

این اتفاق بحث‌های زیادی را درباره محدودیت‌های مدل‌های بسته و اهمیت دسترسی به ابزارهای متن‌باز برای پژوهشگران و متخصصان امنیت سایبری ایجاد کرد.

غیبت برخی شرکت‌های بزرگ هوش مصنوعی

نکته قابل توجه در ترکیب اعضای این ائتلاف، عدم حضور برخی از شناخته‌شده‌ترین شرکت‌های فعال در حوزه هوش مصنوعی از جمله OpenAI، گوگل و Anthropic است.

این موضوع نشان می‌دهد که هنوز دیدگاه‌های متفاوتی درباره آینده توسعه هوش مصنوعی و میزان متن‌باز بودن مدل‌های پیشرفته میان شرکت‌های بزرگ فناوری وجود دارد.

رقابت متن‌باز و مدل‌های اختصاصی

در سال‌های اخیر، شرکت‌های چینی نیز سرمایه‌گذاری گسترده‌ای روی مدل‌های متن‌باز انجام داده‌اند. عرضه مدل‌هایی مانند Kimi K3 باعث شده رقابت میان رویکرد متن‌باز و مدل‌های اختصاصی وارد مرحله جدیدی شود.

در مقابل، انویدیا و سایر اعضای این ائتلاف معتقدند حفظ امنیت هوش مصنوعی تنها با استفاده از یک رویکرد امکان‌پذیر نیست و باید از ظرفیت هر دو دسته مدل‌های متن‌باز و اختصاصی برای توسعه ابزارهای دفاعی بهره گرفت.

آینده امنیت هوش مصنوعی

کارشناسان معتقدند با پیشرفته‌تر شدن مدل‌های هوش مصنوعی، توسعه ابزارهای امنیتی نیز باید همگام با آن‌ها پیش برود. تشکیل این ائتلاف می‌تواند زمینه همکاری بیشتر میان شرکت‌های فناوری، پژوهشگران و جامعه متن‌باز را فراهم کند تا تهدیدهای آینده با سرعت بیشتری شناسایی و مدیریت شوند.

در صورت موفقیت این همکاری، ابزارهای توسعه‌یافته می‌توانند به استانداردهای جدیدی برای افزایش امنیت سامانه‌های مبتنی بر هوش مصنوعی تبدیل شوند و نقش مهمی در محافظت از کاربران و زیرساخت‌های دیجیتال ایفا کنند.