تکنیک تازه گوگل شدت آموزش مدل‌های هوش مصنوعی را افزایش می‌دهد_ستاره شو

محققان DeepMind گوگل روش جدیدی برای افزایش شدت آموزش هوش مصنوعی گسترش داده‌اند که به‌طور قابل‌توجهی می‌تواند منبع های محاسباتی و زمان موردنیاز برای انجام این کار را افت دهد.

در صنعت هوش‌مصنوعی انرژی زیاد بسیاری مصرف می‌بشود، چون سیستم‌های بزرگ‌تر همانند ChatGPT به قوت بسیاری برای پردازش نیاز دارند و این چنین انرژی و آب بسیاری برای خنک‌کردن این سیستم‌ها ملزوم است. به‌گفتن مثال، مصرف آب مایکروسافت از سال ۲۰۲۱ تا ۲۰۲۲ به‌علت افزایش تقاضای مربوط به هوش مصنوعی، ۳۴ درصد افزایش یافته است. این چنین برای هر ۵ تا ۵۰ خواست ChatGPT تقریباً نیم لیتر آب موردنیاز است.

بااین‌حال، رویکردهایی همانند رویکرد گوگل که «یادگیری متضاد چندوجهی با انتخاب مثال مشترک» (JEST) نام دارد، راه‌حلی را برای افت این چالش‌ها اراعه می‌کنند. گوگل در تحقیق خود می‌گوید JEST با بهینه‌سازی روال انتخاب داده‌ها برای آموزش هوش مصنو‌عی، می‌تواند تعداد تکرارها و توان محاسباتی موردنیاز خود را به مقدار قابل‌توجهی افت دهد. این کار می‌تواند مصرف کلی انرژی هوش مصنوعی را پایین بیاورد.

نحوه کار تکنیک تازه گوگل برای آموزش هوش مصنوعی

نحوه کار JEST به این صورت است که با انتخاب دسته‌ای از داده‌های مکمل، قابلیت یادگیری مدل هوش مصنو‌عی به حداکثر می‌رسد. برخلاف راه حلهای سنتی که در آن از مثالهای واحد منفعت گیری می‌بشود، این الگوریتم ترکیب کل مجموعه را در نظر می‌گیرد.

برای مثال، فکر کنید که درحال یادگیری چندین زبان هستید. با این تکنیک، به جای یادگیری جداگانه هریک از زبان‌ها (برای مثالً به‌ترتیب سختی)، از ترکیب آن‌ها با یکدیگر به‌طوری منفعت گیری می‌بشود که آموزش مؤثرتر باشد و دانش مربوط به یکی از زبان‌ها در آموزش فرد دیگر نقش داشته باشد.

برای دستیابی به این مهم، محققان گوگل از شیوه «یادگیری متضاد چندوجهی» منفعت گیری کرده‌اند که در آن وابستگی بین نقاط داده شناسایی می‌بشود.

اگر این تکنیک در مقیاس‌های بزرگ‌تر نیز مؤثر باشد، برای آموزش مدل‌های هوش مصنوعی فقط به انرژی مقداری نیاز است. به این علت شرکت‌ها و استارتاپ‌ها قادر خواهند می بود با همان منابعی که اکنون منفعت گیری می‌کنند، ابزارهای هوش مصنوعی نیرومندتری تشکیل کنند یا برای گسترش مدل‌های جدیدتر منبع های کمتری نیاز داشته باشند.