گلوگاه میلیارددلاری حافظههای هوش مصنوعی؛ بحران هزینههای DRAM و HBM
به گزارش وبسایت تککرانچ، هزینه حافظههای DRAM و پهنای باند بالا (HBM) در زیرساختهای هوش مصنوعی به سطح پردازندههای گرافیکی (GPU) رسیده و به یکی از چالشهای اصلی توسعه مدلهای بزرگ تبدیل شده است. در برخی مراکز داده، حافظه تا ۳۰ تا ۴۰ درصد از کل هزینه سیستم را شامل میشود. این بحران میتواند جهت سرمایهگذاری میلیاردها دلاری را به سمت توسعه فناوریهای جدید حافظه تغییر دهد. افزایش هزینههای حافظه به دلیل تقاضای روزافزون برای مدلهای یادگیری عمیق و سیستمهای پردازش زبان طبیعی به یک گلوگاه تکنولوژیکی تبدیل شده است. شرکتهای فناوری در حال جستجوی راهحلهای جایگزین برای کاهش وابستگی به حافظههای موجود هستند. این بحران نه تنها تأثیر مستقیمی بر هزینههای ساخت مدلهای هوش مصنوعی دارد، بلکه میتواند جهت پژوهشهای بینالمللی در حوزه حافظههای پیشرفته را تغییر دهد.
منبع: snntv