GPU Yapay Zeka Yazılımı: CUDA vs. ROCm
Ham donanım özellikleri GPU hesaplamada hikayenin yarısını anlatır. Gerçek dünya yapay zeka performansını ölçmek için, AMD'nin MI300X'ini NVIDIA'nın H100, H200 ve B200'ü ile çoklu GPU ve yüksek eşzamanlılık senaryolarında karşılaştıran 52 farklı test gerçekleştirdik.
AMD'nin MI300X'i 1.307 TFLOPS ile NVIDIA'nın H100/H200'ünün 990 TFLOPS'una kıyasla %32 teorik avantaja sahip olsa da, gerçek dünya performansı farklı bir tablo çizmektedir:
CUDA farkı: Yazılım donanımdan daha iyi performans gösterdiğinde
Analizimiz, NVIDIA'nın yazılım optimizasyonunun, donanım özelliklerine dayalı olarak donanımından beklenen performansı ne ölçüde iyileştirdiğini ölçen CUDA farkını ortaya koymaktadır.
Pozitif bir puan, NVIDIA'nın yazılım ekosisteminin ham TFLOPS'un tahmin edeceğinin ötesinde performans kazanımları sağladığını gösterir.
Çoklu GPU verim performansı
Birden fazla GPU'ya ölçeklendirme yapıldığında, CUDA farkı giderek daha belirgin hale gelmektedir:
Yapılandırma | AMD MI300X | NVIDIA H100 | AMD Teorik TFLOPS Avantajı¹ | NVIDIA Gerçek Verim Avantajı² | CUDA Farkı Puanı³ |
|---|---|---|---|---|---|
2x GPU | 35.638 tok/s | 46.129 tok/s | +%32,1 | %29,4 | 61,5 |
4x GPU | 60.986 tok/s | 84.683 tok/s | +%32,1 | %38,9 | 71,0 |
8x GPU | 101.069 tok/s | 147.606 tok/s | +%32,1 | %46 | 78,1 |
Analiz: MI300X'in net teorik avantajına rağmen, NVIDIA GPU sayısı arttıkça büyüyen bir verim üstünlüğü sürdürmektedir. 61–78 aralığındaki CUDA farkı puanları, NVIDIA'nın yazılım yığınının donanım beklentilerinin çok ötesinde performansı nasıl ortaya çıkardığını yansıtmaktadır. Ayrıntılar için hesaplama metodolojimize bakın.
Not: TFLOPS değerleri tüm GPU'lardaki yoğun hesaplamaya dayanmaktadır.
Gecikme analizi
Gerçek zamanlı uygulamalar için gecikme genellikle verimden daha kritiktir:
8× GPU yapılandırmasında, NVIDIA H100, MI300X'ten %31,9 daha düşük gecikme sunmaktadır.
Pratik etki: chatbot'lar veya gerçek zamanlı inference hizmetleri gibi etkileşimli yapay zeka uygulamaları için, bu gecikme farkları doğrudan kullanıcı deneyiminin kalitesine yansır.
Eşzamanlılık performansı: Gerçek Dünya SaaS senaryoları
En açıklayıcı karşılaştırmalar, birden fazla eşzamanlı kullanıcının olduğu gerçek üretim ortamlarını simüle eder. Sonuçlar, eşzamanlılık performansının iş yükü yoğunluğuna bağlı olarak nasıl çarpıcı biçimde değiştiğini göstermektedir:
Eşzamanlılık performansı: Analiz
- 16 eşzamanlı kullanıcıda, NVIDIA belirgin şekilde daha yüksek verim sunar:
- H100: +%30,8 daha fazla verim
- H200: +%34,4 daha fazla verim
- B200: +%76,5 daha fazla verim
Bu sonuçlar, NVIDIA'nın hafif iş yüklerinde bile donanım temelli beklentilerin üzerinde performans gösterdiğini, CUDA farkı puanlarının 34,6 ile 66,5 arasında değiştiğini göstermektedir.
- 128 eşzamanlı kullanıcıda, zamanlama ve bellek yönetimi ek yükleri daha önemli hale geldikçe verim avantajları genişler:
- H100: +%38,7 daha fazla verim
- H200: +%43,0 daha fazla verim
- B200: +%105,3 daha fazla verim
B200 bu seviyede MI300X verimini iki katından fazlasına çıkarırken, CUDA farkı puanları 63,4–75,1 seviyesine yükselmektedir.
- 512 eşzamanlı kullanıcıda, yazılım ekosistemi belirleyici performans faktörü haline gelir:
- H100: +%67,0 daha fazla verim
- H200: +%37,4 daha fazla verim
- B200: +%77,9 daha fazla verim
Genel olarak, eşzamanlılık karşılaştırması AMD ve NVIDIA arasındaki en keskin ayrışmayı ortaya koymaktadır. Gerçek dünya iş yükü yoğunluğu arttıkça, NVIDIA'nın daha olgun CUDA yürütme yığını verimi ölçeklendirmeye devam ederken, MI300X daha erken platoya ulaşmaktadır. Birçok eşzamanlı isteğin olduğu SaaS benzeri ortamlarda, ham hesaplama değil, yazılım olgunluğu performansın baskın itici gücüdür.
Mevcut GPU serisi: AMD ve NVIDIA nesilleri
Karşılaştırmalarımız AMD'nin MI300X'ini NVIDIA'nın H100, H200 ve B200'ü ile karşı karşıya getirmektedir. Her iki üretici de o zamandan beri daha yeni silikonlar piyasaya sürdü, bu nedenle 2026 ortası itibarıyla serinin durumu aşağıdaki gibidir.
Aşağıdaki tablolar yoğun hesaplama oranlarını listelemektedir. Yapılandırılmış seyreklik ile her iki üretici de bu rakamları yaklaşık iki katına çıkarmaktadır.
AMD'nin mevcut amiral gemisi CDNA4 MI350 serisidir (MI350X ve MI355X); yerel FP6 ve FP4 (MXFP4) veri tiplerine sahip ilk Instinct parçası olup, NVIDIA Blackwell'in düşük hassasiyetli formatlarına AMD'nin karşılığıdır. AMD, MI350 serisinin MI300X'e kıyasla 4 kata kadar daha fazla hesaplama ve 35 kata kadar daha fazla inference sunduğunu iddia etmektedir, ancak bu rakam MI355X'in FP4'teki performansını MI300X'in FP8'deki performansıyla karşılaştırmakta olup, birebir bir test değildir. 1 2 3
NVIDIA da karşılaştırmamızdaki B200'ün ötesine geçmiştir. Blackwell Ultra (B300 çipi ve GB300 kartı), 288 GB HBM3e (B200'ün aynı ~8 TB/s bant genişliğindeki 192 GB'ından yukarı) ve 15 PFLOPS yoğun NVFP4 hesaplama ile 2025 sonunda üretimdeki üst seviye haline gelmiştir. Raf ölçeğinde, birim GB300 NVL72'dir: tek bir 130 TB/s NVLink alanı içinde 72 Blackwell Ultra GPU ve 36 Grace CPU. NVIDIA'nın bir sonraki platformu Vera Rubin, GTC 2026'da duyuruldu ve 2026'nın ikinci yarısı için iş ortağı kullanılabilirliği hedefleniyor; çip başına Rubin özellikleri hâlâ onaylanmış olmaktan ziyade basında bildirilen niteliktedir.4
Özellik karşılaştırması
NVIDIA CUDA
CUDA (Compute Unified Device Architecture), NVIDIA'nın özel mülk paralel hesaplama platformu ve programlama modelidir. 2006'da piyasaya sürülen CUDA, yaklaşık yirmi yıllık geliştirme, optimizasyon ve ekosistem inşasından faydalanmıştır.
Temel avantajlar:
- Olgun ekosistem: 18+ yıl boyunca optimize edilmiş kapsamlı kütüphaneler (cuDNN, cuBLAS, TensorRT).
- Geliştirici benimsemesi: CUDA programlamada eğitimli milyonlarca geliştirici.
- Framework entegrasyonu: PyTorch, TensorFlow ve tüm büyük yapay zeka framework'leriyle derin entegrasyon.
- Derleyici optimizasyonları: Son derece gelişmiş derleme ve çalışma zamanı optimizasyonları.
Sınırlamalar:
- Üretici bağımlılığı: Yalnızca NVIDIA donanımına bağlı özel mülk teknoloji.
- Kapalı kaynak: Sınırlı topluluk katkıları ve şeffaflık.
- Maliyet: Pazar hakimiyeti daha yüksek fiyatlandırmayı mümkün kılar.
AMD ROCm
ROCm (Radeon Open Compute), CUDA'ya alternatif olarak tasarlanmış AMD'nin açık kaynaklı GPU hesaplama platformudur.
Temel avantajlar:
- Açık kaynak: Topluluk odaklı geliştirme ve şeffaflık.
- Donanım değeri: Genellikle kağıt üzerinde daha güçlü donanımla eşleştirilir (daha yüksek TFLOPS).
- Taşınabilirlik: AMD GPU mimarileri arasında çalışacak şekilde tasarlanmıştır.
- Maliyet rekabetçi: Daha uygun fiyatlı donanım seçenekleri.
Sınırlamalar:
- Ekosistem olgunluğu: Önemli ölçüde daha genç platform (2016'da piyasaya sürüldü).
- Kütüphane optimizasyonu: Daha az optimize edilmiş kütüphaneler ve framework entegrasyonları.
- Geliştirici benimsemesi: Daha küçük geliştirici topluluğu ve daha az kaynak.
- Uyumluluk sorunları: Popüler framework'lerle sık karşılaşılan uyumluluk zorlukları.
- Dokümantasyon: CUDA'ya kıyasla daha az kapsamlı.
CUDA farkı neden var?
1. Kütüphane optimizasyonu
NVIDIA'nın cuDNN, cuBLAS ve TensorRT kütüphaneleri belirli işlemler için titizlikle optimize edilmiştir. Yıllarca süren profil oluşturma ve optimizasyon, günlük yapay zeka işlemlerinin teorik maksimum verimliliğe yakın çalışmasını sağlar.
2. Derleyici teknolojisi
CUDA'nın derleyicisi aşağıdakiler dahil gelişmiş optimizasyonlar gerçekleştirir:
- Otomatik kernel fusion
- Bellek erişim deseni optimizasyonu
- Komut düzeyinde paralellik
- Kayıt tahsisi stratejileri
3. Framework entegrasyonu
PyTorch ve TensorFlow, CUDA'yı çekirdeklerine derinlemesine entegre etmiştir:
- Günlük işlemler için özel CUDA kernel'leri
- Optimize edilmiş bellek tahsis ediciler
- Verimli çoklu GPU iletişimi
- Olgun dağıtık eğitim uygulamaları
4. Ekosistem etkileri
- Daha fazla geliştirici optimizasyon fırsatlarını bulup raporluyor
- Donanım-yazılım eş tasarım avantajları
- Optimizasyon önceliklerini yönlendiren sektör ortaklıkları
- Çeşitli iş yüklerinde kapsamlı test ve profil oluşturma
Gerçek dünya etkileri
ML mühendisleri ve veri bilimcileri için
- Üretim dağıtımları: CUDA'nın performans avantajları yüksek eşzamanlılığa sahip üretim ortamlarında katlanır
- Geliştirme hızı: Daha iyi araçlar ve dokümantasyon geliştirmeyi hızlandırır
- Sorun giderme: Olgun ekosistem daha hızlı sorun çözümü anlamına gelir
Kuruluşlar için
- TCO analizi: AMD ile donanım maliyet tasarrufları, azalan verim ve artan gecikme ile dengelenebilir
- Ölçeklendirme hususları: CUDA Farkı ölçekle birlikte artar, kurumsal dağıtımlar NVIDIA'yı tercih eder
- Risk değerlendirmesi: Üretici bağımlılığı ile performans ödünleşimleri dikkatli değerlendirme gerektirir
Sektör için
- Rekabet: AMD'nin donanım rekabetçiliği yazılım farkı tarafından zayıflatılmaktadır.
- İnovasyon: AMD üzerinde ROCm geliştirmesini hızlandırması için baskı.
- Açık kaynak potansiyeli: ROCm'un açık doğası nihayetinde topluluk tarafından optimize edilmiş çabaları harekete geçirebilir.
Tercih edilen kaynak olarak ekleCUDA farkı hesaplama metodolojisi
CUDA Farkı Puanı, NVIDIA'nın gerçek dünya performansının yalnızca donanım özelliklerinin tahmin edeceğinin ne kadar ötesine geçtiğini (veya altında kaldığını) ölçmek için baştan sona kullanılmaktadır. Burada atıfta bulunulan tüm verim, gecikme ve ölçeklenebilirlik karşılaştırmaları:
Puan aşağıdaki şekilde hesaplanır:
AMD'nin teorik TFLOPS avantajı
- Pozitif → AMD teorik olarak daha güçlüdür
- Negatif → NVIDIA teorik olarak daha güçlüdür
NVIDIA'nın verim avantajı
Gerçek dünya iş yüklerinde NVIDIA'nın veriminin ne kadar yüksek olduğunu gösterir.
CUDA farkı puanı
Burada:
- Eşdeğer formülasyon:
Daha yüksek bir CUDA Farkı Puanı, NVIDIA'nın yazılım yığınının, CUDA'nın, kütüphanelerinin, derleyici optimizasyonlarının ve yürütme çalışma zamanının, donanım temelli beklentileri aşan performans sağladığını gösterir.
TFLOPS referans değerleri
Aşağıdaki tüm TFLOPS rakamları, üretici özellikleriyle uyumlu ve tüm karşılaştırmalarda tutarlı olarak kullanılan yoğun (seyrek olmayan) hesaplama oranlarıdır:
- AMD MI300X: 1307,4 TFLOPS
- NVIDIA H100 SXM: 990 TFLOPS
- NVIDIA H200 SXM: 990 TFLOPS
- NVIDIA B200 SXM: 2250 TFLOPS
Yoğun hesaplama normalizasyonu
Adil bir karşılaştırma sağlamak için:
- AMD MI300X: Yoğun oran doğrudan sağlanmıştır
- NVIDIA H100, H200, B200: Yoğun oran, üreticinin seyrek TFLOPS / 2 değerinden türetilmiştir
Bu, CUDA Farkı Puanlarının seyrek hesaplama hızlandırmasındaki farklılıklar yerine yazılım etkisini yansıtmasını sağlar.
Sonuç
AMD'nin CUDA Farkını kapatması için çeşitli stratejiler ortaya çıkmaktadır:
- Kütüphane optimizasyonu: Popüler framework'ler için kritik işlemleri optimize etmeye odaklanın.
- Geliştirici teşvikleri: CUDA geliştiricilerini ROCm'a çekecek programlar oluşturun.
- Ortaklık stratejisi: Yerel optimizasyonlar için doğrudan framework bakımcılarıyla çalışın.
- Dokümantasyon yatırımı: CUDA'nın dokümantasyon kalitesine ulaşın veya aşın.
- Topluluk inşası: Optimizasyonları kitle kaynaklı hale getirmek için açık kaynak avantajlarından yararlanın.
- Donanım-Yazılım Eş Tasarımı: ROCm için optimize edilmiş donanım tasarlamak üzere karşılaştırma içgörülerini kullanın.
CUDA ve ROCm arasındaki mücadele, hesaplamada temel bir gerçeği göstermektedir: yazılım ekosistemleri ham donanım yeteneklerinden daha değerli olabilir. AMD'nin MI300X'i kağıt üzerinde etkileyici TFLOPS sunar, ancak NVIDIA'nın CUDA'ya yaptığı 18 yıllık yatırım, donanım özelliklerine meydan okuyan performans avantajları yaratmaktadır.
Karşılaştırmalarımızda 28,7 ile 99,1 arasında değişen CUDA Farkı Puanı, bu yazılım avantajını ölçmektedir. Bu, ölçekte ve gerçek dünya koşullarında, optimize edilmiş yazılımın, gerçekte olduğundan %30-%99 daha güçlü bir donanıma sahip olmaya eşdeğer performans kazanımları sağlayabileceğini göstermektedir.
SSS'ler
CUDA ve AMD'nin ROCm'unu karşılaştırırken, kuruluşlar genellikle hangi ekosistemin yüksek performanslı hesaplama, makine öğrenimi ve yapay zeka geliştirmede en iyi sonuçları verdiğini değerlendirir. NVIDIA'nın CUDA'sı, özellikle yapay zeka geliştiricileri, yazılım mühendisleri ve modern yapay zeka iş yükleri üzerinde çalışan AMD mühendisleri tarafından kullanılan başlıca yapay zeka framework'leri genelinde üstün performans, ekosistem olgunluğu ve kapsamlı framework desteği konusundaki itibarını korumaktadır. CUDA, güçlü geliştirici topluluğu, birleşik cihaz mimarisi ve modern Linux ortamlarıyla derin entegrasyonu sayesinde minimum çabayla performans optimizasyonu sağlayarak yaygın olarak benimsenmeye devam etmektedir.
Öte yandan, AMD donanımı, özellikle AMD Instinct hızlandırıcıları, ROCm'un açık kaynaklı yapısı, ROCm desteğindeki hızlı iyileştirmeler ve gerçek yapay zeka uygulamaları ile HPC geliştirmede giderek karşılaştırılabilir performans sayesinde uygulanabilir bir alternatif haline gelmiştir. ROCm'un açık kaynaklı yazılım platformu, açık kaynak topluluğuna hitap etmekte ve birçok bulut sağlayıcı artık ekosistem için tam destek sunmaktadır. Maliyet verimliliği arayan kuruluşlar için ROCm, NVIDIA muadillerine karşı cazip bir alternatif sunmaktadır. Ancak CUDA, büyük mevcut CUDA kod tabanlarına veya NVIDIA'nın CUDA kütüphanelerine bağımlı özel görüntü işleme, derin öğrenme ve yapay zeka hızlandırma iş yüklerine sahip ekipler için daha güvenli bir tercih olmaya devam etmektedir.
Uygulamaları CUDA'dan AMD'nin ROCm'una taşımak, projenin CUDA'ya özgü API'lere ve özel sürücülere ne kadar derinlemesine bağımlı olduğuna bağlıdır. Birçok iş yükü için, özellikle derin öğrenme, makine öğrenimi ve yapay zekada, ROCm; heterojen bir hesaplama arayüzü, önceden derlenmiş ikili dosyalar ve minimum değişiklikle model çalıştırmayı destekleyen giderek olgunlaşan yapay zeka framework'leri sunar. Bu, mevcut altyapılarını tamamen değiştirmeden modelleri ince ayar yapmak veya yeni bir hesaplama ortamını test etmek isteyen ekipler için ROCm'u daha erişilebilir kılar.
Bununla birlikte, NVIDIA'nın CUDA'sı kapsamlı bir kütüphane paketi, köklü bir API modeli ve Linux dağıtımları genelinde yaygın destek sağlar. CUDA'nın pazar payı ve ekosistem desteği aynı zamanda yazılım mühendislerinin ve yapay zeka geliştiricilerinin zengin bir dokümantasyon, eğitim materyali ve topluluk katkısına erişebileceği anlamına gelir. ROCm'un açık kaynaklı yapısı cazip olsa ve giderek daha rekabetçi hale gelmesini sağlasa da, karmaşık uygulamaları taşımak hâlâ özelliklerin, donanım desteğinin ve performans beklentilerinin pratik bir karşılaştırmasını gerektirir. Çoğu durumda ekipler, ROCm'un ölçeklenebilir çözümlerinin ve açık kaynak topluluk katılımının, daha köklü CUDA ekosistemine karşı önemli bir avantaj sağlayıp sağlamadığını değerlendirir.
Yüksek performans, yapay zeka hızlandırma ve modern yapay zeka iş yüklerine odaklanmış veri merkezi dağıtımları için hem NVIDIA hem de AMD cazip çözümler sunmaktadır. Hem NVIDIA hem de AMD yetenekli donanım ortamları sağlar. Yine de, NVIDIA'nın CUDA'sı yıllarca süren optimizasyon, yapay zeka framework'leriyle sıkı entegrasyon ve yüksek kararlılıktan faydalanarak kuruluşlar için daha güvenli bir tercih haline gelir. CUDA, olgun ekosistemi ve geniş araç seti sayesinde birçok yapay zeka ve HPC geliştirme görevinde daha iyi performansı korur.
Buna karşılık, AMD'nin ROCm'u, büyük şirketlerden, bulut sağlayıcılardan ve daha geniş açık kaynak topluluğundan gelen önemli yatırımlarla desteklenerek istikrarlı bir şekilde gelişmeye devam etmektedir. AMD donanımı, AMD Instinct hızlandırıcıları ve ROCm'un olgunlaşan yazılım yığınının birleşimi, ROCm'u yapay zeka, makine öğrenimi ve HPC geliştirme için giderek daha uygulanabilir kılmaktadır. Açıklığa, maliyet verimliliğine ve açık ekosistemler üzerine inşa edilmiş uzun vadeli bir stratejiye öncelik veren ekipler için ROCm, önemli potansiyele sahip cazip bir alternatif sunar. Yine de Nvidia'nın CUDA'sı, yapay zeka geliştiricilerini, yazılım mühendislerini ve önemli kaynaklara sahip işletmeleri çekmeye devam eden ekosistem olgunluğu, geliştirici araçları ve birleşik cihaz mimarisinde önemli bir avantajı elinde tutmaktadır.
Daha fazla bilgi
- En İyi 30 Bulut GPU Sağlayıcısı ve GPU'ları
- En İyi 20+ Yapay Zeka Çip Üreticisi: NVIDIA ve Rakipleri
- Çoklu GPU Karşılaştırması: B200 vs H200 vs H100 vs MI300X
- GPU Eşzamanlılık Karşılaştırması: H100 vs H200 vs B200 vs MI300X
Bu araştırmayı kaynak gösterin
Yayınlayacağınız yere uygun formatı seçin. Bağlantılı sürümü CMS'inize yapıştırmak, geri bağlantıyı korur.
@misc{dilmegani2026,
author = {Dilmegani, Cem},
title = {{GPU Yapay Zeka Yazılımı: CUDA vs. ROCm}},
year = {2026},
month = jun,
howpublished = {\url{https://aimultiple.com/cuda-vs-rocm}},
note = {AIMultiple. Erişim tarihi: 19 Haziran 2026}
}Referans Linkleri
Cem'in çalışmaları Business Insider, Forbes, Washington Post gibi önde gelen küresel yayınlar, Deloitte, HPE gibi küresel firmalar, Dünya Ekonomik Forumu gibi STK'lar ve Avrupa Komisyonu gibi uluslarüstü kuruluşlar tarafından alıntılanmıştır.
Cem, kariyeri boyunca teknoloji danışmanı, teknoloji alıcısı ve teknoloji girişimcisi olarak görev yapmıştır. On yıldan fazla bir süre McKinsey & Company ve Altman Solon'da işletmelere teknoloji kararlarında danışmanlık yapmıştır. Ayrıca dijitalleşme üzerine bir McKinsey raporu yayımlamıştır.
CEO'ya rapor verirken bir telekomünikasyon şirketinin teknoloji stratejisini ve satın alımını yönetmiştir. Ayrıca, 2 yıl içinde 0'dan 7 haneli yıllık yinelenen gelire ve 9 haneli değerlemeye ulaşan derin teknoloji şirketi Hypatos'un ticari büyümesini yönetmiştir. Cem'in Hypatos'taki çalışmaları TechCrunch ve Business Insider gibi önde gelen teknoloji yayınları tarafından ele alınmıştır.
Cem, uluslararası teknoloji konferanslarında düzenli olarak konuşma yapmaktadır. Boğaziçi Üniversitesi'nden bilgisayar mühendisi olarak mezun olmuş ve Columbia Business School'dan MBA derecesine sahiptir.
Sıradaki Okunma
En İyi 10 Uç Nokta Güvenliği Yazılımı
Ücretsiz Alternatifli En İyi 10 PAM Çözümü
En İyi Veritabanı Performans İzleme Araçları: En İyi 5 Platform Karşılaştırıldı
Yorumlar 1
Düşüncelerinizi Paylaşın
E-posta adresiniz yayınlanmayacak. Tüm alanlar gereklidir. Yorumlar orijinal dilinde bırakılır.
"Hardware Lock-in NVIDIA GPUs only AMD GPUs only" This is false. You can compile and runs Rocm on Nvidia Gpu.
I think there might be a small mix-up in terminology here, and it actually changes the meaning a bit. You can't run ROCm itself on an NVIDIA GPU, since ROCm's runtime and kernel driver (ROCclr/HSA, /dev/kfd) only work on AMD hardware. What you can do is compile HIP code to target an NVIDIA GPU. HIP is the portable source language that comes with the ROCm toolchain. The catch is that when you target NVIDIA, hipcc just calls nvcc and the program runs on CUDA underneath, so it's really HIP producing a CUDA binary rather than ROCm running on the card. The binaries aren't portable between the two vendors either. So the ROCm runtime is AMD only, while HIP source is portable but falls back to CUDA on NVIDIA. You're right that GPU code doesn't have to be CUDA-locked, it's just that HIP is the part doing the heavy lifting there. Hope that helps clarify!