Nvidia RTX videokartalarida sun'iy intellekt tezligi oshdi

Modderlar GPU-Unlock loyihasi yordamida Nvidia RTX seriyali videokartalarining Tensor yadrolaridagi sun'iy cheklovlarni olib tashladi.

Dasturchilar Nvidia kompaniyasining avvalgi avlodga mansub GeForce RTX 20, 30 va 40 seriyali videokartalarining sun'iy intellekt vazifalaridagi hisoblash quvvatini sezilarli darajada oshirish usulini topishdi. Zagitta taxallusi ostidagi dasturchi tomonidan ishlab chiqilgan GPU-Unlock nomli yangi loyiha Tensor yadrolarining ishlashiga o'rnatilgan sun'iy cheklovlarni muvaffaqiyatli chetlab o'tish imkonini beradi. Ushbu modifikatsiya tufayli foydalanuvchilar maxsus apparat o'zgarishlarisiz ham yuqori natijalarga erishishlari mumkin.

Maxsus qurilma yoki BIOS yangilanishi talab etilmaydi

Yangi usulning asosiy afzalligi shundaki, uni qo'llash uchun videokartaning apparat qismiga jismoniy aralashish yoki uning BIOS dasturini qaytadan yozish shart emas. GPU-Unlock loyihasi grafik drayver tizimga yuklanishidan oldin grafik protsessorning past darajadagi konfiguratsiya registrlarini o'zgartiradi. Bu Tensor yadrolarining muayyan ko'rsatmalarni bajarish tezligiga qo'yilgan sun'iy to'siqlarni olib tashlaydi. Shuni ta'kidlash kerakki, kiritilgan o'zgarishlar vaqtinchalik xarakterga ega bo'lib, grafik chip quvvati o'chirilgach yoki tizim qayta ishga tushirilgach, barcha sozlamalar avtomatik ravishda boshlang'ich holatiga qaytadi.

Unumdorlik ko'rsatkichlari qanday o'zgardi?

Sinov jarayonlari ko'rsatishicha, ushbu modifikatsiya qo'llanilgandan so'ng apparat imkoniyatlari haqiqatan ham sezilarli darajada oshgan. Masalan, RTX 3090 Ti grafik kartasi uchun BF16 matritsa ko'paytirish amallari unumdorligi 87,5 TFLOPS dan naqd 157,4 TFLOPS gacha sakragan, bu deyarli ikki barobar o'sishni bildiradi. Xuddi shunday ijobiy natijalar sinovdan o'tgan boshqa RTX 20 va RTX 40 liniyasiga mansub modellarda ham qayd etilgan. Modifikatsiya asosan FP16 va BF16 operatsiyalariga, shuningdek, FP32 to'planishi hamda qo'llab-quvvatlanadigan arxitekturalardagi ba'zi TF32 va FP8 ish yuklamalariga ta'sir ko'rsatadi.

Qaysi vazifalar tezlashadi va nima o'zgarmaydi?

• Katta til modellari (LLM) so'rovlarini qayta ishlash tezligi 14-36 foiz oralig'ida o'sdi.
• Sun'iy intellekt yordamida tasvirlarni generatsiya qilish jarayonlari sezilarli darajada tezlashdi.
• Videokartaning umumiy xotira hajmi va uning o'tkazish qobiliyati avvalgidek qoladi.
• Tokenlar generatsiyasi tezligida esa sezilarli o'zgarish kuzatilmaydi.
• Ushbu modifikatsiya kompyuter o'yinlaridagi umumiy unumdorlikka yoki kadrlar chastotasiga (FPS) mutlaqo ta'sir qilmaydi.