NVIDIA RTX videokartalari unumdorligini ikki barobar oshirishdi

Enthusiastlar NVIDIA RTX 20, 30 va 40 seriyali videokartalarida sun'iy intellekt vazifalari uchun matrisli hisoblash tezligini oshirishdi.

Dasturchilar va apparat ta'minoti ishqibozlari NVIDIA kompaniyasining RTX 20, RTX 30 va RTX 40 seriyali videokartalarida matrisli hisoblashlar unumdorligini deyarli ikki barobar oshirish imkonini beruvchi yashirin imkoniyatni aniqlashdi. Ushbu o'zgarishlar maxsus drayverlarni o'zgartirmasdan turib amalga oshiriladi va mahalliy sun'iy intellekt modellarini ishlatuvchilar uchun katta foyda keltiradi. Modifikatsiya jarayoni to'g'ridan-to'g'ri matrisli hisob-kitoblar bilan bog'liq bo'lib, grafik chiplarning quvvatini yangi bosqichga olib chiqadi.

Ampere va Ada Lovelace arxitekturalaridagi o'zgarishlar

Yangi topilgan usul turli avlod chiplarida turlicha natija beradi. Ampere arxitekturasida ishlovchi RTX 30 seriyasida FP32 to'plami bilan FP/BF16 FMA ko'rsatmalarini tezlashtirilgan tarzda qayta ishlash imkoniyati ochildi. Shuningdek, Ada Lovelace arxitekturasiga asoslangan qurilmalar ham shunga o'xshash usul yordamida o'z ko'rsatkichlarini sezilarli darajada yaxshilagani ma'lum bo'ldi. Ushbu modifikatsiya standart drayverlar bilan mukammal ishlaydi va barcha CUDA testlaridan muvaffaqiyatli o'tishga qodir.

• RTX 3090 Ti videokartasining BF16 matrislarini ko'paytirish tezligi 87,5 TFLOPS dan 157,4 TFLOPS gacha, taxminan 80 foizga o'sdi.
• RTX 4090 modeli uchun tensor yadrolarining FP16 unumdorligi 165,6 TFLOPS ko'rsatkichidan 331,6 TFLOPS ga yetkazildi.
• RTX 20 seriyasiga mansub RTX 2080 Ti esa o'z natijasini 59,9 TFLOPS dan 111 TFLOPS gacha oshirishga muvaffaq bo'ldi.

Sun'iy intellekt vazifalari uchun foydasi va ehtiyot choralari

Topilgan yashirin potensial asosan o'yinlarni tezlashtirishga emas, balki murakkab matrisli hisob-kitoblar hamda sun'iy intellekt vazifalarini bajarishga mo'ljallangan. Mutaxassislarning ta'kidlashicha, mahalliy til modellarining ishlashi ushbu yangilanish evaziga taxminan 33-36 foizga tezlashishi mumkin. Shuni ham unutmaslik kerakki, funksiyani faollashtirish uchun tizim har safar ishga tushganda uni qayta yoqish talab etiladi va bu harakat qurilma kafolatining bekor qilinishiga sabab bo'lishi mumkin.