Honor: Chinesischer Hersteller integriert LLM direkt ins nächste Smartphone
Nach dem Hype um generative AI und ChatGPT ist es nur eine Frage der Zeit, bis Sprachmodelle Einzug auf Smartphones halten. Google hat bereits angekündigt, dass es bei Android eine tiefe Integration des ChatGPT-Rivalen Google Bard geben soll, und auch bei Apple deutet einiges darauf hin, dass Large Language Models (LLMs) eine immer größere Rolle in Bezug auf den Sprachassistenten Siri und hauseigene Apps wie „Journal“ spielen werden.
Auch bei der chinesischen Smartphone-Marke Honor (früher Huawei, heute im Besitz vom 30 chinesischen, teilweise sehr staatsnahen Unternehmen) gibt es dazu konkrete Pläne. So wurde am Snapdragon Summit 2023 in Hawaii, den der US-Chip-Riese Qualcomm veranstaltet, angekündigt, dass das kommende Smartphone Honor Magic6 ein eigenes LLM integriert haben soll. Um welches LLM es sich handelt, wurde nicht verraten, jedenfalls soll das Sprachmodell auf 7 Milliarden Parametern beruhen und ist damit einer unter den kleinen LLMs zu finden.
Angetrieben werden soll das Smartphone, mit dem nicht vor 2024 zu rechnen ist, vom neu präsentierten Snapdragon 8 Gen 3-Chop, der sowohl bei CPU als auch bei GPU im Vergleich zum Vorgänger (natürlich, was sonst) deutlich an Speed zugelegt haben soll. Spannend an der Sache ist, dass das LLM nicht in der Cloud laufen soll, sondern am Gerät selbst. „Im Gegensatz zu Cloud-LLMs, die mit öffentlich zugänglichen Datensätzen trainiert werden, stützt sich das geräteeigene LLM von Honor auf sein Verständnis des Gerätebenutzers, um seinen Vorlieben entsprechend personalisierte Dienste anzubieten“, heißt es in einer Aussendung.
Interagieren sollen Nutzer:innen des Smartphones über den Sprachassistenten Yoyo, der am Gerät installiert ist und von Honor als Gehgenteil zu Apples Siri oder Googles Assistant positioniert wird. „Durch die Bereitstellung von Befehlsaufforderungen an den auf dem Gerät befindlichen Smart-Sprachassistenten Yoyo können Benutzer problemlos kurze Videos mit Fotos und Bildmaterial erstellen, die auf ihren Geräten gespeichert sind. Vorlagen, Themen und Musik der erzeugten Videos können auch mit zusätzlichen Aufforderungen angepasst werden, sodass personalisierte Ergebnisse entstehen“, heißt es seitens Honor.
Wie gut das LLM auf dem Gerät performt und was es vor allem für den Stromverbrauch bedeutet, bleibt abzuwarten. Mit 7 Milliarden Parametern wird es wohl nicht an das herankommen, was viele Nutzer:innen bereits von ChatGPT Plus (GPT-4) gewohnt sind – aber für das Prompting von Basisfunktionen des Smartphones wird es wohl reichen. Auch ist nicht bekannt, in welchen Sprachen das funktionieren wird und wie und ob Sprachen neben Englisch und Chinesisch gut funktionieren werden. Versprochen wird jedenfalls, dass „die Daten auf dem Gerät sicher und geschützt bleiben“ sollen – persönliche Eingaben der Nutzer:innen fließen also nicht in die Cloud, um das LLM weiter zu trainieren.
Honor ist mit kleinen Marktanteilen in westlichen Ländern sicher kein Unternehmen, das den Ton angibt. Jedoch zeigt die geplante Integration eines LLMs, dass die neuen AI-Modelle schnell ihren Weg vom Desktop in die Mobile-Welt finden. Dort gibt es gerade bei den Sprachassistenten, die Smartphones schon viele Jahre lang haben, einige Nutzungsmöglichkeiten.
