ایران پرسمان - پس از آنکه شرکت آنتروپیک متوجه شد سه شرکت از چت بات کلاود سواستفاده می کنند، خواستار اقدامی علیه «حملات تقطیر هوش مصنوعی» (AI distillation attack) شد.
به گزارش خبرگزاری مهر به نقل از انگجت، این شرکت در وب سایت خود مدعی شده دیپ سیک، مون شات و مینی مکس کمپین هایی در مقیاس صنعتی برای استخراج غیرقانونی قابلیت های کلاود انجام داده اند تا مدل های خود را ارتقا دهند.
تقطیر در جهان هوش مصنوعی مربوط به زمانی است که مدل هایی با قابلیت کمتر برای آموزش خود به پاسخ مدل های قدرتمندتر تکیه می کنند.
هرچند تقطیر در کل این طیف اقدام بدی به شمار نمی رود اما آنتروپیک مدعی است این نوع حمله ها ممکن است به شیوه مخرب تر مورد استفاده قرار گیرند. به گفته آنتروپیک سه شرکت هوش مصنوعی چینی مذکور مسئول بیش از ۱۶ میلیون تبادل با چت بات کلاود از طریق ۲۴ هزار حساب کلاهبردارانه هستند.
از دیدگاه آنترپیک این شرکت های رقیب از کلاود به عنوان راه میانبری برای توسعه مدل های هوش مصنوعی پیشرفته تر استفاده کرده اند که به دور زدن برخی اقدامات ایمنی نیز منجر می شود.
آنتروپیک در پست وبلاگی خود نوشت توانسته با کمک IP آدرس ها اعتبار بالا هریک از حملات تقطیر را به شرکتی خاص مرتبط کند، درخواست های متا دیتا و نشانگرهای زیرساخت در کنار همکاری با دیگران در صنعت هوش مصنوعی که متوجه رفتارهای مشابه شده بودند، به این دانش دست یافته است.
اوپن ای آی در اوایل سال گذشته ادعاهای مشابهی درباره تقطیر مدل هایش توسط شرکت های رقیب کرده بود و در واکنش به این امر حساب های مذکور را ممنوع کرده بود. در خصوص آنتروپیک این شرکت اعلام کرده سیستم هایش را ارتقا می دهد تا حملات تقطیر سخت تر و ردیابی آنها ساده تر شود.