Media: Apple praat met start-up die AI-modellen verkleint

(ABM FN-Dow Jones) Apple onderzoekt de technologie van startup PrismML, die krachtige AI-modellen zo ver zou kunnen verkleinen dat ze rechtstreeks op een iPhone kunnen draaien, terwijl ze tot 15 keer minder geheugen verbruiken. Dit meldde CNBC dinsdagavond op basis van uitspraken van de CEO van PrismML, Babak Hassibi. 

Als de beweringen van PrismML in praktijktests standhouden, zou de technologie de vraag naar geheugen en rekenkracht in datacenters kunnen veranderen, hoewel analisten zeggen dat AI nog steeds veel chips zal vereisen, aldus CNBC.

PrismML onthulde dinsdag gecomprimeerde versies van Alibaba’s open-source Qwen-model. Volgens de Californische startup is het model teruggebracht van ongeveer 54 GB naar minder dan 4 GB, waardoor alle 27 miljard parameters ervan op een iPhone 15 of nieuwer kunnen draaien.

Hassibi vertelde CNBC dat Apple en andere bedrijven de modellen van de start-up aan het evalueren zijn en de snelheid, energie-efficiëntie en prestaties ervan op apparaten aan het meten zijn.

"Ze zijn onze technologie op dit moment echt aan het evalueren", zei Hassibi over Apple. Volgens de topman bevinden de gesprekken zich nog in een zeer vroeg stadium en is het onduidelijk waar ze toe zullen leiden.

De doorbraak zou Apple kunnen helpen om Siri sneller en meer privé te maken omdat meer AI-verwerking op het apparaat zelf wordt uitgevoerd, in plaats van dat er verzoeken moeten worden gestuurd naar de cloud.

Het aandeel Apple verloor dinsdag 0,9 procent.