Künstliche Intelligenz und Systems Engineering

Selbstfahrende Autos brauchen künstliche Intelligenz (KI), und nachdem mehrere Fahrzeughersteller bereits Google gefolgt sind und selbstfahrende Autos entwickelt haben, hat sich nun auch Toyota in diese Gruppe eingereiht.

Ein Problem das ich dabei sehe hinsichtlich SE: Insbesondere bei eingebetteten Systemen soll das System deterministisch sein: Beim selben Input soll der selbe Output kommen. Das soll für ein nachvollziehbares Verhalten sorgen, was unter anderem für die funktionale Sicherheit oft als unumgänglich angesehen wird. Im Systems Engineering nennt man unvorhersehbares Verhalten auch „emergent behavior“. Dies ist ein klassisches Zeichen von komplexen (im Gegensatz zu komplizierten) Systemen.

Das ist bei KI-Systemen leichter gesagt als getan: Der Input (bpsw. das Kartenmaterial) ändert sich langsam, und die im Verkehr entstehenden Inputs sind so reichhaltig dass hier ein deterministisches Verhalten nicht unbedingt für mehr Sicherheit sorgen würde. Abgesehen davon ist einer der Eigenschaften eines KI-Systems die Fähigkeit, zu lernen. Für Determinismus müsste man diese abschalten, was dessen Wert drastisch senken würde.

Foto: Dr. Gill Pratt, Toyota Executive Technical Advisor and Chief Executive Officer of Toyota Research Institute, Inc.

Dieser Artikel erschien zuerst bei se-trends.de.

  • Peter

    Wir müssen einfach aufhören, alles kontrollieren zu wollen. Die Welt ist nun mal nicht vorhersehbar: Es ist besser, sich einfach darauf einzustellen.

  • Gast

    Wo finde ich Details zum Unterschied zwischen komplexen und komplizierten Systemen?

    • Im Detail gehen darauf viele SE-Bücher ein, wie bspw. das INCOSE-Handbuch [1] (gibt es auch auf Deutsch). Aber kurz am Beispiel erklärt: Eine Uhr ist kompliziert, man kann anhand der einzelnen Teile genau verstehen, wie sie funktioniert. Straßenverkehr ist komplex: Der Verkehr entwickelt Eigenschaften (bspw. Stau, etc.), die aus dem Einzelteil (Auto) nicht ersichtlich sind (das ist dann „emergent behavor).

      [1] http://www.incose.org/ProductsPublications/sehandbook