Para ilmuwan memanfaatkan cahaya untuk menghancurkan penghalang kecepatan AI
Sistem koneksi chip terobosan menggunakan cahaya alih -alih kabel logam dapat menghilangkan kemacetan komputasi utama, pengembangan AI supercharging.
Didanai oleh hibah NSF $ 2 juta dan didukung oleh para pemimpin industri, proyek ini bertujuan untuk membuat model AI lebih cepat dan lebih efisien. Dengan mengkonfigurasi ulang jalur optik secara dinamis, inovasi ini dapat merevolusi komputasi kinerja tinggi dan mendefinisikan kembali transfer data.
Memecahkan “dinding memori” dengan koneksi chip berbasis cahaya
Sistem koneksi chip baru dapat membantu mengatasi “dinding memori,” hambatan utama yang memperlambat kecepatan komputasi dan membatasi pertumbuhan model AI. Alih -alih mengandalkan kabel listrik tradisional, teknologi ini mentransfer data melalui jalur cahaya yang dapat dikonfigurasi ulang, memungkinkan komunikasi yang jauh lebih cepat dan lebih efisien.
Proyek ini, yang dipimpin oleh University of Michigan, didukung oleh hibah $ 2 juta dari program semikonduktor National Science Foundation of Semiconductors. Itu menyatukan para peneliti dari Universitas Washington, Universitas Pennsylvaniadan Lawrence Berkeley National Laboratory, dengan panduan dari para pemimpin industri termasuk Google, Hewlett Packard Enterprise, Microsoft, dan Nvidia.
Bottleneck transfer data memperlambat pertumbuhan AI
Sementara daya komputasi telah meningkat secara dramatis-kecepatan pemrosesan saat ini 60.000 kali lebih cepat dari 20 tahun yang lalu-transfer data antara memori dan prosesor telah tertinggal, meningkat hanya 30 kali lipat. Kesenjangan yang tumbuh ini telah menciptakan hambatan, membatasi ukuran model AI, yang telah berkembang pada tingkat yang menakjubkan – 400 kali lebih besar setiap dua tahun sejak 1998. Transfer data yang lebih cepat sangat penting untuk membuka potensi penuh AI.
“Teknologi yang kami usulkan dapat memungkinkan komputasi berkinerja tinggi untuk mengimbangi sejumlah besar data yang diberi makan untuk model AI yang berkembang pesat,” kata Di Liang, UM Profesor Teknik Listrik dan Komputer dan Penyelidik Utama Proyek. “Dengan koneksi optik antara chip, kami pikir kami dapat mentransfer puluhan terabit per detik, yang lebih dari 100 kali lebih cepat dari koneksi listrik yang canggih.”
Batas koneksi logam hardwired
Saat ini, data bergerak antara beberapa memori dan chip prosesor melalui koneksi logam yang disolder ke satu paket fisik tunggal yang disebut interposer, yang mirip dengan motherboard. Data dapat ditransfer dalam interposer tunggal atau lintas interposer pada server yang saling berhubungan yang disebut node komputasi.
Koneksi logam digerakkan ke interposer, yang membatasi bandwidth transfer data dan integritas sinyal karena sinyal listrik yang lebih cepat kehilangan energi karena panas dan dapat secara elektromagnetik mengganggu koneksi tetangga. Akibatnya, koneksi hardwiring ke semua prosesor dan chip memori yang berbeda tidak dapat ditelusuri. Chip superkomputer tunggal saat ini dapat berisi lebih dari 900.000 core, atau unit pemrosesan individu, dan jumlah itu akan terus tumbuh dengan ukuran model AI.
Mengapa interposer optik adalah masa depan
“Semua prosesor tersebut perlu berbicara dengan sejumlah besar memori,” kata Mo Li, profesor teknik listrik dan komputer di University of Washington, dan seorang penyelidik utama proyek tersebut. “Mengontrol komunikasi dalam seluruh paket sangat penting. Dalam pandangan saya, koneksi optik akan menjadi satu -satunya solusi yang dapat ditelusuri di masa depan. ”
Cahaya dapat melakukan perjalanan lebih jauh dari elektron dan mentransfer data dalam jumlah yang jauh lebih besar dengan kehilangan energi yang jauh lebih sedikit, dan para peneliti akan memanfaatkan sifat -sifat ini dalam desain interposer baru mereka. Pulsa cahaya akan bergerak di antara chip melalui saluran bias di interposernya yang disebut pandu gelombang optik. Seorang penerima pada setiap chip menerjemahkan data kembali ke sinyal listrik untuk ditafsirkan komputer.
Kontrol lalu lintas dinamis untuk beban kerja AI
Jaringan Waveguide juga dapat dikonfigurasi ulang-selama manufaktur serta di dalam komputer-berkat material yang mengubah fase khusus di interposer. Saat dipukul dengan laser atau terpapar tegangan, indeks bias material berubah, yang berarti cahaya akan ditekuk ke arah yang berbeda saat melewati pandu gelombang.
“Ini agak seperti jalan membuka dan menutup,” kata Liang Feng, profesor ilmu material dan teknik listrik dan sistem di University of Pennsylvania dan penyelidik co-principal. “Jika sebuah perusahaan menjual chip berdasarkan teknologi ini, mereka akan dapat menulis ulang koneksi pada berbagai chip dan server tanpa mengubah tata letak komponen lainnya.”
Para peneliti akan merancang perangkat lunak pengontrol lalu lintas yang memantau bagian mana dari interposer untuk berkomunikasi pada waktu tertentu dan membuat sakelar tegangan yang diperlukan untuk membuat koneksi yang ideal dengan cepat.
“Mengubah koneksi memungkinkan kita untuk mengkonfigurasi ulang jaringan berdasarkan pada model AI apa yang ingin kita jalankan, atau apakah kita ingin melatih atau menjalankan model,” kata Reetuparna Das, profesor ilmu komputer dan teknik dan co-investigator proyek.
Kolaborasi industri dan pembelajaran langsung untuk siswa
Di luar teknologi yang maju, proyek ini juga akan menghubungkan siswa UM dengan mitra industri dan memberikan pengalaman dunia nyata yang berharga.
“Koneksi ini memungkinkan siswa untuk menghargai tantangan dunia nyata dalam merancang teknologi yang berkembang pesat,” kata Liang. “Buku teks tidak membahas masalah -masalah modern ini secara memadai karena tingkat pengembangan membuat buku teks tidak mungkin untuk mengikutinya. Cara terbaik untuk mendapatkan keterampilan yang relevan adalah dengan bekerja dengan industri tentang masalah yang mereka pedulikan. ”
