Yazılım mühendisi Andrew Rossignol bu hafta yayınladığı bir blog yazısında Apple‘a ait eski bir PowerBook G4 üzerinde üretken yapay zekayı nasıl çalıştırdığını anlattı.
Büyük dil modelleri (LLM’ler) için donanım gereksinimleri genellikle yüksek olsa da, 2005 yılından kalma bu özel PowerBook G4 modeli yalnızca 1.5GHz PowerPC G4 işlemci ve 1GB RAM ile donatılmış.
Apple’ın 20 yaşındaki dizüstü bilgisayarı şaşırtıyor
Bu 20 yıllık donanıma rağmen Rossignol, dizüstü bilgisayarda Meta’nın LLM modeli Llama 2 ile çıkarım yapmayı başardı.
Deney, açık kaynaklı llama2.c projesinin taşınmasını ve ardından AltiVec adlı bir PowerPC vektör uzantısı ile performansın hızlandırılmasını içeriyordu.
Blog yazısının tamamı proje hakkında daha fazla teknik ayrıntı sunuyor.
PlayStation 3, Xbox 360 ve diğer eski cihazlarda çalışan üretken yapay zeka modellerinin benzer örnekleri zaman zaman haberlere konu oluyor.
