Edge AI: KI-Modelle müssen nicht zwingend bei Big Tech in der Cloud laufen

Viele Unternehmen haben für sich erkannt: Der Einsatz von AI-Modellen ist jetzt und in Zukunft Business-kritisch, weil man letztendlich immer mehr Geschäftsprozesse an LLMs auslagern kann und sogar mancherorts bereits Arbeitskräfte einspart. Was viele Unternehmen, gerade in Europa, aber nicht wollen: Die KI nun auch noch in den Clouds von Big Tech laufen lassen.

Unter anderem deswegen gewinnt so genannte Edge AI zunehmend an Bedeutung. Gemeint ist dabei eine Technologie, die künstliche Intelligenz direkt auf Geräten am Rand eines Netzwerks (ebe den Edge-Geräten) ausführt, anstatt Daten zur Verarbeitung in zentrale Cloud-Server oder Rechenzentren zu senden. Diese Kombination aus KI und Edge Computing ermöglicht die lokale Verarbeitung von Daten dort, wo sie erzeugt werden.

Startups wie etwa Liquid AI mit Wurzeln in Österreich (mehr dazu hier) arbeiten an Foundation Models, die so schlank sind, dass sie auf Geräten direkt beim Endnutzer (z.B. einer Firma) laufen können. Richtig eingesetzt, können auch sehr leistungsstarke AI-Modelle wie jene von DeepSeek lokal laufen, ohne Daten an eine Cloud senden zu müssen.

„Auswertung von KI-Daten am Ort ihrer Entstehung in vielen Fällen die bessere Lösung“

Auch bei Dell Technologies hat man den Bedarf an Edge AI erkannt – aus überraschendem Grund. „Die Datenmengen, die von KI-Systemen verarbeitet werden, sind oft so groß, dass sie zur Analyse nicht in ein zentrales Rechenzentrum oder eine Public Cloud geschickt werden können“, heißt es in einer Aussendung. „Zum einen verzeihen zeitkritische Arbeitsabläufe keine Verzögerungen, die eine solche Übertragung automatisch mit sich bringen würde. Zum anderen wären die Kosten dafür viel zu hoch. Deshalb ist die Berechnung und Auswertung von KI-Daten am Ort ihrer Entstehung in vielen Fällen die bessere Lösung.“

Laut Chris Kramar, Director und General Manager OEM Solutions DACH bei Dell Technologie, gibt es eingie wichtige Punkte, die für Edge AI sprechen, und zwar folgende:

• Minimierung von Latenzzeiten: Durch die lokale Datenverarbeitung können zeitkritische Anwendungen und Use Cases wie der Roboterarm in der Fertigung oder das POS-System (Point of Sale) im Lebensmittelgeschäft nahezu in Echtzeit ausgeführt werden. KI-Algorithmen am Edge priorisieren Aufgaben und sorgen so für die nötige Reaktionsgeschwindigkeit und Stabilität, um reibungslose Abläufe zu gewährleisten.
• Steigerung von Wirtschaftlichkeit und Datenschutz: Die Verarbeitung großer Datenmengen vor Ort vermeidet teure Übertragungen an zentrale Rechenzentren oder die Public Cloud. Gleichzeitig reduziert die dezentrale Analyse sensibler personenbezogener Informationen das Risiko von Datenschutzverletzungen, da die Daten nie über weite Strecken transportiert werden müssen. Moderne, KI-basierte Edge-Lösungen bieten zudem integrierte Sicherheitsmechanismen, die Anomalien frühzeitig erkennen und Bedrohungen sofort neutralisieren.
• Verbesserung der Energieeffizienz: KI- und ML-Lösungen direkt vor Ort ermöglichen eine genaue Erfassung der Nutzungsmuster von Geräten. Automatisierte Energiemanagementsysteme passen den Stromverbrauch selbstständig an, indem sie beispielsweise in Zeiten geringer Auslastung in den Energiesparmodus wechseln, und optimieren so den Betrieb der Infrastruktur – auch an entlegenen Standorten ohne permanente Betreuung.
• Reduzierung der Ausfallzeiten: Durch den Einsatz intelligenter Fehlerdiagnosen und prädiktiver Analysen können Unregelmäßigkeiten in der IT beziehungsweise im Netz schnell erkannt und behoben sowie Ausfälle bereits im Vorfeld vermieden werden. Dadurch verkürzen sich die Reparaturzeiten drastisch – von Tagen auf wenige Minuten oder Stunden. Gleichzeitig werden teure Ausfallzeiten auf ein Minimum reduziert.
• Bereitstellung innovativer Services: Die Fähigkeit, das Verhalten und die Vorlieben der Nutzer in Echtzeit zu analysieren, eröffnet Unternehmen die Möglichkeit, personalisierte und kontextbezogene Services anzubieten. Diese reichen von maßgeschneiderten IoT-Anwendungen über Smart-City-Lösungen bis hin zu individualisierten medizinischen Versorgungsangeboten. Dies führt nicht nur zu einer höheren Anwenderzufriedenheit, sondern ermöglicht auch die Erschließung zusätzlicher Umsatzquellen.