Services · KI Engineering

KI im Gerät, in der Cloud und in Ihrer Entwicklung

Drei Dinge, die Sie einzeln beauftragen können: ein Modell in Ihrem Gerät, die Auswertung Ihrer Flottendaten und die KI-Werkzeuge für Ihre eigene Entwicklung. Womit Sie anfangen, entscheiden Sie.

KI ändert alles und nichts

Für uns als Technologiebegeisterte, Innovatoren und begeisterte System- und Produktentwickler bietet der Einsatz von KI ganz neue Möglichkeiten und Dimensionen. Zum anderen entstehen auch ganz neue Dimensionen an Anforderungen, was man bedenken, planen, testen und betreuen muss. Wir versuchen, bestmöglich innovationsgetrieben voranzuschreiten, und freuen uns, wenn unsere Kunden und Partner durch unsere Erkenntnisse profitieren können.

  • KI im Gerät

    Kamerabilder und Sensordaten im Gerät auswerten. Die Rohdaten bleiben in der Maschine.

  • KI in der Cloud

    Daten aus der ganzen Flotte zusammenführen, auswerten und daraus bessere Modelle bauen.

  • KI in Ihrer Entwicklung

    Die KI-Werkzeuge einrichten, mit denen Ihr Team täglich arbeitet.

KI im Gerät

  • Was wir damit machen

    Objekterkennung, Gesichtserkennung, Mustererkennung, Anomalieerkennung und vorausschauende Wartung. Das Gerät erkennt, ordnet ein und meldet einen Zustand, ohne dass die Rohdaten die Maschine verlassen.

  • Auf welcher Hardware

    qdSBC baut auf dem STM32MP25. Dessen Beschleuniger schafft bis zu 1,35 TOPS; TensorFlow Lite und ONNX können darauf betrieben werden.

  • Wenn die Rechenleistung nicht reicht

    Dann optimieren wir das Verfahren, oder wir setzen ein anderes Modul ein. Das lässt sich durch kompakte Machbarkeitsstudien qualifizieren.

  • Von der Machbarkeit in die Serie

    Ein Modell vom Entwicklungsrechner läuft auf dem Beschleuniger eines Edge-Device nicht ohne Weiteres. Quantisierung, Konvertierung und viele andere Optimierungen gehören dazu, bis Performance und Laufzeit den Ansprüchen für eine robuste Serie entsprechen.

qdSBC ansehen
Logo qdHardwarePlattform

KI in der Cloud

Was ein einzelnes Gerät nicht sehen kann, zeigt sich über viele.

  • Daten aus der Flotte zusammenführen

    Messwerte, Zustände und Logdaten von allen Geräten an einer Stelle, über die qdCloud oder über Ihre eigene Umgebung.

  • Auswerten, was im Einzelgerät untergeht

    Ausreißer fallen erst auf, wenn der Normalfall über viele Geräte, Standorte und Jahreszeiten bekannt ist.

  • Modelle trainieren und nachtrainieren

    Aus den Flottendaten entsteht der nächste Modellstand. Er geht als signiertes Update auf die Geräte, mit Rückfall auf den letzten funktionierenden Stand.

KI in Ihrer Entwicklung

  • Was Sie bekommen

    Wir richten in Ihrer Umgebung die KI-Werkzeuge ein, mit denen Ihr Team arbeitet: Agenten, die Anforderungen formulieren, Testfälle ableiten, technische Analysen erstellen und jede Änderung gegenprüfen. Konfiguriert und optimiert auf Ihre Verfahren und Prozesse.

  • Wie viel Mensch im Verfahren steckt, entscheiden Sie

    Umsetzbar ist die ganze Spannweite: rein agentische Verfahren auf der einen Seite, auf der anderen Verfahren, in denen der Mensch das Verständnis der gesamten Implementierung und Verarbeitung behält, wie es die funktionale Sicherheit am Ende verlangt.

  • Gekoppelt an Ihre Vorschriften

    Verfahrensanweisungen, Arbeitsanweisungen und Entwicklungsvorschriften lassen sich elegant so ablegen, dass Mensch und KI dieselbe Fassung lesen. Davon profitiert das Team: Die KI arbeitet so, wie Sie es haben wollen, und nicht so, wie es jemand anderes gemacht haben möchte.

  • Skill- und Datentraining

    Es hat sich bewährt, gute Test- und Simulationsumgebungen für die Skillentwicklung zu schaffen, damit der Großteil des Verhaltens schon vor dem ersten Release so weit wie möglich deterministisch ist. Man entwickelt auch hier Verfahren und am Ende Software, die großen Einfluss auf die Produktqualität und auf mögliche technische Schulden hat.

  • Jede Arbeitsweise wird gemessen

    Bevor eine Arbeitsweise in Betrieb geht, vergleichen wir dieselben Aufgaben mit ihr und ohne sie. Was keinen Unterschied macht, bleibt draußen. Diesen Schritt sparen sich die meisten.

KI im Gerät, in der Cloud oder im Entwicklungsprozess birgt dieselben Herausforderungen, wie Software sie schon lange mit sich bringt. Damit es mittel- und langfristig gut funktioniert, muss sie gut konzeptioniert, wartbar und verständlich sein.

Sicherheit und Nachweise

  • Das Modell steht in der Stückliste

    Laufzeit, Framework, Treiber und Modellstand gehören in die SBOM des Geräts. Ohne sie bleibt der Nachweis nach dem Cyber Resilience Act unvollständig.

  • Nachweisbar, welcher Modellstand wo lief

    Jeder Modellstand gehört zu einem Release und zu einem Update. Wenn im Feld etwas schiefgeht, ist belegbar, was zu dem Zeitpunkt auf dem Gerät war.

  • Modellwechsel bleiben qualifizierbar

    Anforderungen, Performance und Latenzen des Systems werden geführt und sind damit prüfbar. Ein Modellwechsel lässt sich so qualifizieren, bevor er in die Serie geht.

  • Die Prüfstelle sitzt von Anfang an mit am Tisch

    Wir entwickeln funktional sichere Elektronik und Software von SIL 1 bis SIL 3 und von PL a bis PL e und stimmen uns dabei früh mit der akkreditierten Stelle ab. Für KI gilt dieselbe Reihenfolge: Was am Ende nachweisbar sein muss, wird vor der Architektur geklärt.

  • Wie weit KI in die Sicherheitskette darf, klären wir in der Konzeption

    Ob ein Modell Teil einer Sicherheitsfunktion sein kann, entscheidet sich in Zusammenarbeit mit der akkreditierten Stelle per Nachweis. Häufig trägt eine Aufteilung, in der das Modell liefert und eine klassische Überwachung absichert. ISO/IEC TR 5469 ordnet funktionale Sicherheit und KI seit 2024 zusammen.

Funktionale Sicherheit ansehen

So läuft ein Projekt für KI im Gerät

Der erste Schritt geht auch als eigener Auftrag, bevor Sie sich auf Hardware festlegen.

  1. Machbarkeit und Daten

    Was soll erkannt werden, wie sicher und wie schnell? Wir prüfen an Ihren Daten, ob das Ziel erreichbar ist. Dazu gehört, woher die Daten kommen, wie viele es braucht und wer festlegt, was auf ihnen zu sehen ist. Ohne diese Einordnung lernt ein Modell nichts, und an dieser Stelle entscheidet sich mehr als am Modell selbst.

  2. Modell

    Training, Quantisierung und Konvertierung auf das Zielformat. Welches Verfahren am besten passt, ergibt sich aus den Anforderungen an Ihr Produkt: wie sicher es erkennen muss, wie schnell es antworten soll und was im Zweifelsfall passieren darf. Vieles davon klärt sich schon in der Machbarkeit.

  3. Auf das Board und in das Image

    Laufzeit, Speicherbedarf und Wärme messen wir auf der Zielhardware. Passt das Modell, wird es Teil des Images, mit derselben Stückliste und demselben signierten Update wie der Rest der Software.

  4. Betrieb

    Beobachten, wie sich das Modell im Feld verhält, nachtrainieren, wenn es nachlässt, und den neuen Stand ausrollen.

Produkte, die im Projekt Zeit sparen

  • Logo qdHardwarePlattform
    Hardware

    qdSBC

    Single-Board-Computer auf STM32MP25 mit KI-Beschleuniger und Grafikeinheit. In Entwicklung.

    Ansehen
    Ansehen
  • Logo qdCoreX
    Betriebssystem

    qdCoreX

    Buildroot-Linux mit signiertem Update, SBOM und CVE-Report. Das Modell wird darin geführt wie jedes andere Paket.

    Ansehen
    Ansehen
  • Logo qdCloud
    IoT-Plattform

    qdCloud

    Flottendaten einsammeln und neue Modellstände ausrollen. In Deutschland oder bei Ihnen.

    Ansehen
    Ansehen

Womit wir arbeiten

Laufzeiten im Gerät

  • TensorFlow Lite
  • ONNX Runtime
  • X-LINUX-AI

Rechenwerke

  • NPU (STM32MP2)
  • GPU
  • CPU

Werkzeuge

  • ST Edge AI
  • Python

Transparenz von Anfang an

Brauchen wir für KI im Gerät eine Cloud?

Für den Betrieb nicht. Das Modell rechnet im Gerät, auch ohne Verbindung. Eine Cloud lohnt sich dort, wo Sie über viele Geräte hinweg auswerten oder neue Modellstände ausrollen wollen.

Wie viele Daten brauchen wir?

Für eine erste Einschätzung reicht, was Sie heute schon aufzeichnen. Wie viel es am Ende braucht, hängt an der Aufgabe. Genau das beantwortet der erste Schritt, bevor Sie in die Entwicklung gehen.

Was passiert mit unseren Daten?

Ihre Daten bleiben Ihre. Wo trainiert wird, mit welchen Werkzeugen und was davon Ihr Haus verlässt, halten wir im Entwicklungsvertrag fest, bevor die erste Datei übergeben wird.

Was gilt für uns aus der KI-Verordnung?

Wir klären zu Beginn, ob und wie die Verordnung Ihr Produkt trifft, und halten die Einstufung fest. Die Fristen für Hochrisiko-Systeme sind verschoben worden, auf den 2. Dezember 2027 und für KI in bereits geregelten Produkten auf den 2. August 2028; KI unter der Maschinenverordnung soll weitgehend ausgenommen werden. Bis dahin ändert sich noch einiges. Umso mehr lohnt es sich, Einstufung und Nachweise von Anfang an einzuplanen. Bei funktionaler Sicherheit fahren wir diese Reihenfolge seit Jahren.

Darf ein Modell eine Sicherheitsfunktion übernehmen?

Das hängt vom Nachweis ab, und den klären wir früh. Für eine sicherheitsgerichtete Funktion müssen Sie zeigen, dass sie unter allen betrachteten Bedingungen richtig reagiert; bei einem trainierten Modell ist das aufwendig und manchmal nicht erreichbar. Häufig trägt deshalb eine Aufteilung, in der das Modell liefert und eine klassische Überwachung absichert. Was in Ihrem Fall geht, bestimmen die Gefährdungsanalyse und die Abstimmung mit der akkreditierten Stelle. Beides machen wir ohnehin, von SIL 1 bis SIL 3 und von PL a bis PL e.

Können Sie auch nur die Machbarkeit prüfen?

Ja. Der erste Schritt geht als eigener, abgegrenzter Auftrag. Danach wissen Sie, ob sich die Entwicklung lohnt, und können immer noch Nein sagen.

Wo würden Sie anfangen?

Im Gerät, in der Cloud oder in der eigenen Entwicklung: Sagen Sie uns, was Sie vorhaben und welche Daten es dazu schon gibt. Wir sagen Ihnen, ob das trägt und wo wir Risiken sehen. Die Einschätzung bis zum Richtpreis ist kostenlos.

Florian Seibold

Geschäftsführung

info@querdenkerengineering.de

+49 7807 890 80 10