{"id":2301,"date":"2026-06-04T13:47:51","date_gmt":"2026-06-04T13:47:51","guid":{"rendered":"https:\/\/www.pickplace.de\/?p=2301"},"modified":"2026-06-04T14:42:00","modified_gmt":"2026-06-04T14:42:00","slug":"funktionale-sicherheit-ki-vibe","status":"publish","type":"post","link":"https:\/\/www.pickplace.de\/de\/funktionale-sicherheit-ki-vibe\/","title":{"rendered":"Funktionale Sicherheit, KI &amp; Vibe Coding: Im Zweifel lieber vermeiden!"},"content":{"rendered":"<p class=\"wp-block-paragraph\">KI kann in der <a href=\"https:\/\/www.pickplace.de\/category\/software\/\" data-type=\"category\" data-id=\"31\">Embedded-Entwicklung<\/a> Anforderungen umformulieren, Testideen erzeugen, Codefragmente schreiben und Dokumentation vorbereiten. Im Functional-Safety-Umfeld entsteht dabei jedoch immer ein Qualifikationsproblem. Denn Tools f&#xFC;r die Codegenerierung fallen grunds&#xE4;tzlich immer unter die sogenannten T3-Tools, die gesondert zu qualifizieren sind, bzw. bei Sicherheitsfunktionen in der Regel ein Zertifikat erfordern. Denn: Ein Entwicklungswerkzeug darf sicherheitsbezogenen Code nur dann generieren, wenn sein Verhalten, seine Einsatzgrenzen und seine m&#xF6;glichen Fehler nachvollziehbar bewertet werden k&#xF6;nnen. Bei generativen KI-Systemen ist diese Bewertung nur begrenzt m&#xF6;glich. Wie also sollen wir das Zusammenspiel <a href=\"https:\/\/www.pickplace.de\/funktionale-sicherheit\/\" data-type=\"page\" data-id=\"947\">Funktionale Sicherheit<\/a> &amp; KI bewerten? Ein detaillierter Blick auf diese komplexe Gemengelage.<\/p>\n\n\n\n<div class=\"wp-block-rank-math-toc-block\" id=\"rank-math-toc\"><h2>Inhalt<\/h2><nav><ul><li class=\"\"><a href=\"#ausgangslage\">Ausgangslage<\/a><\/li><li class=\"\"><a href=\"#fachlicher-hintergrund\">Fachlicher Hintergrund: Funktionale Sicherheit &amp; KI<\/a><\/li><li class=\"\"><a href=\"#generative-ai-fur-funktionale-sicherheit\">Generative AI f&#xFC;r Funktionale Sicherheit<\/a><\/li><li class=\"\"><a href=\"#tool-qualifikation-und-generative-ki\">Tool-Qualifikation und generative KI<\/a><ul><li class=\"\"><a href=\"#zulassige-und-problematische-einsatzmuster\">Zul&#xE4;ssige und problematische Einsatzmuster<\/a><\/li><li class=\"\"><a href=\"#wo-gener\">Wo generative AI wohl gedultet werden wird<\/a><\/li><li class=\"\"><a href=\"#grenzen-risiken-und-offene-punkte\">Technische Grenzen<\/a><\/li><\/ul><\/li><li class=\"\"><a href=\"#snippets-statt-software\">Was geht und was nicht geht<\/a><\/li><li class=\"\"><a href=\"#fazit\">Fazit<\/a><\/li><\/ul><\/nav><\/div>\n\n\n\n<h2 id=\"ausgangslage\" class=\"wp-block-heading\">Ausgangslage<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Vibe Coding bezeichnet eine Arbeitsweise, bei der Software &#xFC;ber nat&#xFC;rlichsprachliche Prompts erzeugt und iterativ angepasst wird. Der Mensch beschreibt das gew&#xFC;nschte Verhalten, das Sprachmodell erzeugt Code, Tests oder Dokumentation, danach folgen weitere Prompts. In einfachen Prototypen kann diese Arbeitsweise die erste Umsetzung beschleunigen.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Functional Safety folgt einer anderen Logik. Sicherheitsbezogene Software muss aus Anforderungen abgeleitet, gepr&#xFC;ft, r&#xFC;ckverfolgbar dokumentiert und gegen definierte Akzeptanzkriterien verifiziert werden. Das betrifft etwa Automotive-Systeme nach ISO 26262, industrielle Systeme nach IEC 61508, Luftfahrtsoftware nach <a href=\"https:\/\/my.rtca.org\/productdetails?id=a1B36000001IcmqEAC\" target=\"_blank\" rel=\"noopener\">DO-178C<\/a> mit Tool-Aspekten nach <a href=\"https:\/\/my.rtca.org\/productdetails?id=a1B36000001IcfkEAC\" target=\"_blank\" rel=\"noopener\">DO-330<\/a> oder Medizinprodukte-Software nach IEC 62304.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Was Software darf und was sie nicht darf, ist bspw. in der IEC 61508-3 relativ eindeutig geregelt. Der Einsatz von k&#xFC;nstlicher Intelligenz wird dabei ausdr&#xFC;cklich nicht empfohlen, auch wenn KI hier in Form von Fehlerkorrektur bzw. fehlerkorrigierenden Verfahren genannt wird &#x2013; das ist nat&#xFC;rlich nur ein Teilaspekt funktionaler Sicherheit. KI bzw. Generative AI in seiner heutigen Form ist zudem sicher nicht das, was sich die Gremien 2010 unter KI vorgestellt haben.<\/p>\n\n\n\n<div class=\"wp-block-stackable-image stk-block-image stk-block stk-a1cb841\" data-block-id=\"a1cb841\"><style>.stk-a1cb841 .stk-img-figcaption{text-align:center !important;font-style:italic !important;}.stk-a1cb841 .stk-img-wrapper{width:50% !important;}<\/style><figure><span class=\"stk-img-wrapper stk-image--shape-stretch\"><img loading=\"lazy\" decoding=\"async\" class=\"stk-img wp-image-2302\" src=\"https:\/\/www.pickplace.de\/wp-content\/uploads\/2026\/06\/iec-61508-tabelle-anhang.jpg\" width=\"50\" height=\"300\" alt=\"IEC 61508-3 Anhang A: Funktionale Sicherheit &amp; KI explizit benannt.\"\/><\/span><figcaption class=\"stk-img-figcaption\">IEC 61508-3 Anhang A: Funktionale Sicherheit &amp; KI explizit benannt.<\/figcaption><\/figure><\/div>\n\n\n\n<p class=\"wp-block-paragraph\">Der Konflikt also entsteht, wenn KI-Ausgaben direkt in sicherheitsbezogene Artefakte einflie&#xDF;en. Ein Sprachmodell kann Code, Testf&#xE4;lle oder Safety-Argumente erzeugen. Daraus folgt aber kein Nachweis, dass diese Ergebnisse korrekt, vollst&#xE4;ndig oder normgerecht sind. Jedoch gibt es hier Abstufungen zu t&#xE4;tigen. <\/p>\n\n\n\n<h2 id=\"fachlicher-hintergrund\" class=\"wp-block-heading\">Fachlicher Hintergrund: Funktionale Sicherheit &amp; KI<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Bei Functional Safety gilt: ein Softwarefehler kann eine Sicherheitsfunktion beeinflussen, einen gef&#xE4;hrlichen Zustand ausl&#xF6;sen oder einen vorhandenen Fehler verdecken. Deshalb verlangen Safety-Prozesse Nachweise &#xFC;ber Anforderungen, Architektur, Implementierung, Verifikation, Traceability, Konfigurationsmanagement und Reviews. <\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Tool-Qualifikation setzt an folgender Stelle an: Ein Werkzeug wird dann kritisch, wenn der Entwicklungsprozess auf seine korrekte Funktion vertraut und fehlerhafte Ausgaben nicht vollst&#xE4;ndig erkannt werden. Normativ sind sich da Automobilwelt, Industrie-Welt und alle anderen regulierten Branchen einig. ISO 26262 beschreibt dieses bspw. Prinzip &#xFC;ber das Vertrauen in Softwaretools und betrachtet dabei die M&#xF6;glichkeit, dass ein falsch funktionierendes Tool Fehler einbringt oder vorhandene Fehler nicht erkennt. IEC 61508 verfolgt denselben Grundgedanken. DO-330 formuliert sogar explizit erg&#xE4;nzende Leitlinien f&#xFC;r Tool-Qualifikation im Luftfahrtkontext. <\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Tools unterscheiden sich dabei nach ihrer Wirkung. Ein Codegenerator kann Fehler in ein System einbringen. Ein Pr&#xFC;fwerkzeug kann Fehler &#xFC;bersehen. F&#xFC;r beide F&#xE4;lle muss der Einsatzkontext betrachtet werden. Ma&#xDF;geblich ist dabei die Frage, ob seine Ausgabe sicherheitsbezogene Entscheidungen beeinflusst und ob diese Ausgabe durch unabh&#xE4;ngige Ma&#xDF;nahmen erkannt oder korrigiert wird.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Bei klassischen Tools lassen sich Funktionen, Versionen, Konfigurationen, Testf&#xE4;lle und bekannte Fehlerbilder oft beschreiben. Anbieter k&#xF6;nnen Qualifikationspakete bereitstellen, etwa Testspezifikationen, erwartete Ergebnisse und Dokumentation f&#xFC;r eine bestimmte Toolfunktion in einer bestimmten Umgebung. Bei generativen KI-Systemen ist diese Form der Eingrenzung schwieriger, weil Ausgaben promptabh&#xE4;ngig, kontextabh&#xE4;ngig und modellabh&#xE4;ngig sind.<\/p>\n\n\n\n<h2 id=\"generative-ai-fur-funktionale-sicherheit\" class=\"wp-block-heading\">Generative AI f&#xFC;r Funktionale Sicherheit<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">KI ver&#xE4;ndert Embedded-Arbeit an Stellen, an denen Schreibarbeit, Strukturierung und Variantenbildung anfallen. Ein Modell kann aus einer Anforderung Testideen ableiten, eine Traceability-Matrix vorbef&#xFC;llen, MISRA-C-Hinweise erkl&#xE4;ren, Unit-Test-Ger&#xFC;ste erzeugen oder eine FMEA-Tabelle vorstrukturieren. Diese T&#xE4;tigkeiten erzeugen Entw&#xFC;rfe, die anschlie&#xDF;end fachlich gepr&#xFC;ft werden k&#xF6;nnen.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Das Safety-Problem beginnt dort, wo solche Entw&#xFC;rfe als gepr&#xFC;fte Artefakte behandelt werden. Ein KI-generierter Testfall ist zun&#xE4;chst ein Vorschlag. Er weist nicht nach, dass eine Anforderung vollst&#xE4;ndig getestet wurde. Ein KI-generierter Safety-Mechanismus ist zun&#xE4;chst eine Implementierungsidee. Er weist nicht nach, dass die Diagnoseabdeckung ausreicht oder dass Fehlannahmen ausgeschlossen wurden. Ein KI-generierter Review-Kommentar ist zun&#xE4;chst ein Hinweis. Er ersetzt kein Review mit dokumentierter Verantwortung.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Die These lautet daher: F&#xFC;r viele KI-basierte Entwicklungswerkzeuge wird eine klassische Tool-Qualifikation als Safety-Tool kaum tragf&#xE4;hig sein, wenn ihr Output nicht vollst&#xE4;ndig verifiziert wird. Der sinnvollere Prozess behandelt KI-Ausgaben als ungepr&#xFC;fte Eingaben. Die Safety-Absicherung liegt dann in Anforderungen, Reviews, statischer Analyse, Tests, Coverage-Nachweisen, Traceability und unabh&#xE4;ngiger Verifikation.<\/p>\n\n\n\n<h2 id=\"tool-qualifikation-und-generative-ki\" class=\"wp-block-heading\">Tool-Qualifikation und generative KI<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Eine Tool-Qualifikation verlangt eine belastbare Beschreibung des Werkzeugverhaltens im vorgesehenen Einsatz. Sie ist eine eigene Disziplin im Kontext Funktionale Sicherheit. KI hingegen ist von dieser Tool-Qualifikation weitestgehend unerfasst. Zur Tool-Qualifikation geh&#xF6;ren typischerweise die verwendeten Funktionen, Konfigurationen und Auswahlm&#xF6;glichkeiten, m&#xF6;gliche Fehlwirkungen, Ma&#xDF;nahmen zur Fehlererkennung und ein Nachweis, dass das Tool in der vorgesehenen Umgebung die erwarteten Ergebnisse liefert. Der Nachweis erfolgt &#xFC;ber eine Kalotte detaillierter Testverfahren und ist nicht trivial.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Generative KI erschwert mehrere dieser Punkte:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Das gleiche Ziel kann je nach Prompt, Kontext und Modellversion zu unterschiedlichen Ausgaben f&#xFC;hren.<\/li>\n\n\n\n<li>Die innere Herleitung einer Ausgabe ist f&#xFC;r das Entwicklungsteam nicht vollst&#xE4;ndig nachvollziehbar.<\/li>\n\n\n\n<li>Das Modell kann plausible, aber falsche Begr&#xFC;ndungen erzeugen.<\/li>\n\n\n\n<li>Der verf&#xFC;gbare Kontext kann bei gr&#xF6;&#xDF;eren Codebasen unvollst&#xE4;ndig sein.<\/li>\n\n\n\n<li>Sicherheitsanforderungen k&#xF6;nnen sprachlich korrekt wiedergegeben und technisch trotzdem falsch umgesetzt werden.<\/li>\n\n\n\n<li>Bei Codegenerierung k&#xF6;nnen unsichere Muster, fehlende Eingabepr&#xFC;fungen oder ungeeignete Bibliotheksnutzung entstehen.<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">Diese Eigenschaften schlie&#xDF;en KI-Nutzung nicht aus. Sie ver&#xE4;ndern aber die Rolle des Tools. Wenn die KI nur Entw&#xFC;rfe liefert und alle sicherheitsbezogenen Ergebnisse durch qualifizierte oder anderweitig abgesicherte Prozesse gepr&#xFC;ft werden, h&#xE4;ngt der Safety-Nachweis nicht von der korrekten KI-Funktion ab. Wenn ein Projekt dagegen ungepr&#xFC;ft auf KI-Ausgaben vertraut, m&#xFC;sste die KI selbst als Safety-relevantes Tool bewertet werden. Genau dort entsteht die kaum l&#xF6;sbare Qualifikationsfrage.<\/p>\n\n\n\n<h3 id=\"zulassige-und-problematische-einsatzmuster\" class=\"wp-block-heading\">Zul&#xE4;ssige und problematische Einsatzmuster<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">F&#xFC;r nicht sicherheitsbezogenen Code kann Vibe Coding breiter eingesetzt werden, sofern Reviews, Tests und Konfigurationsmanagement greifen. Bei sicherheitsbezogener Software sinkt der Spielraum mit der Kritikalit&#xE4;t.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Bei ASIL A\/B oder SIL 1\/2 kann KI bei vorbereitenden T&#xE4;tigkeiten helfen. Beispiele sind Requirements-Zerlegung, Testfallentw&#xFC;rfe, Boilerplate-Code, Review-Checklisten, MISRA-Erkl&#xE4;rungen oder Vorschl&#xE4;ge f&#xFC;r Range Checks, Timeout Handling, Watchdog Supervision und CRC-Pr&#xFC;fungen. Der Output muss anschlie&#xDF;end durch den vorgesehenen Entwicklungsprozess laufen.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Bei ASIL C\/D oder SIL 3\/4 sollte KI-generierter Code nur in eng abgegrenzten Einheiten eingesetzt werden. Geeignet sind Funktionen mit klaren Eing&#xE4;ngen, klaren Ausg&#xE4;ngen und vollst&#xE4;ndiger Pr&#xFC;fbarkeit. F&#xFC;r sicherheitsbezogene Logik sind menschliche Reviews, unabh&#xE4;ngige Tests und bei kritischen Teilen formale oder semi-formale Nachweise naheliegende Ma&#xDF;nahmen.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Problematisch sind Einsatzmuster, bei denen KI die Safety-Autorit&#xE4;t &#xFC;bernimmt. Dazu geh&#xF6;ren ungepr&#xFC;fte ASIL-D-Logik, automatisch finalisierte Safety Requirements, gesch&#xE4;tzte Diagnoseabdeckung, &#xFC;bersprungene Reviews oder eine Toolchain-Qualifikation, die durch KI-Ausgaben ersetzt werden soll.<\/p>\n\n\n\n<h3 id=\"wo-gener\" class=\"wp-block-heading\">Wo generative AI wohl gedultet werden wird<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">Generative KI in der Softwareentwicklung wird sich in sicherheitskritischen Projekten nicht dauerhaft ausklammern lassen. Besonders deutlich wird das beim Thema Code-Snippets. Gemeint sind einzelne Codeschnipsel, Hilfsfunktionen, Umformungen, Initialisierungen, Testhilfen oder klar abgegrenzte Implementierungsteile, die auf Basis eines pr&#xE4;zisen Prompts erzeugt werden. Die KI &#xFC;bernimmt dabei nicht die Verantwortung f&#xFC;r Architektur, Safety-Konzept, Requirements, Teststrategie oder Freigabe. Sie wirkt eher wie eine produktivere Form der Entwicklungsumgebung: eine &#x201E;verl&#xE4;ngerte Tastatur&#x201C; mit Vorschlagsfunktion.<\/p>\n\n\n\n<div class=\"wp-block-stackable-image stk-block-image stk-block stk-e0f7b40\" data-block-id=\"e0f7b40\"><style>.stk-e0f7b40 .stk-img-figcaption{text-align:center !important;font-style:italic !important;}.stk-e0f7b40 .stk-img-wrapper{width:480px !important;}<\/style><figure><span class=\"stk-img-wrapper stk-image--shape-stretch\"><img loading=\"lazy\" decoding=\"async\" class=\"stk-img wp-image-2304\" src=\"https:\/\/www.pickplace.de\/wp-content\/uploads\/2026\/06\/gen-ai-fusi.jpg\" width=\"480\" height=\"320\" alt=\"Geeignet f&#xFC;r Funktionale Sicherheit? KI Werkzeuge von Claude, ChatGPT und Copilot\" srcset=\"https:\/\/www.pickplace.de\/wp-content\/uploads\/2026\/06\/gen-ai-fusi.jpg 480w, https:\/\/www.pickplace.de\/wp-content\/uploads\/2026\/06\/gen-ai-fusi-300x200.jpg 300w, https:\/\/www.pickplace.de\/wp-content\/uploads\/2026\/06\/gen-ai-fusi-18x12.jpg 18w\" sizes=\"auto, (max-width: 480px) 100vw, 480px\"\/><\/span><figcaption class=\"stk-img-figcaption\">Geeignet f&#xFC;r Funktionale Sicherheit? KI Werkzeuge von Claude, ChatGPT und Copilot<\/figcaption><\/figure><\/div>\n\n\n\n<p class=\"wp-block-paragraph\">Genau darin liegt die eigentliche Herausforderung f&#xFC;r funktionale Sicherheit. Wenn Entwickler generative KI nutzen, um einzelne Teilaspekte schneller zu formulieren, ist ein pauschales Verbot praktisch schwer durchsetzbar. F&#xFC;r sicherheitskritische Systeme ist deshalb nicht die erste Frage, ob generative KI grunds&#xE4;tzlich &#x201E;erlaubt&#x201C; oder &#x201E;verboten&#x201C; werden sollte. Die relevantere Frage lautet: Unter welchen Bedingungen darf ein KI-generierter Codeausschnitt in ein sicherheitsrelevantes Entwicklungsartefakt &#xFC;bernommen werden?<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Eine belastbare Regel kann nicht lauten: &#x201E;<strong>Die KI hat es erzeugt, also ist es falsch<\/strong>.&#x201C; Sie kann aber auch nicht lauten: &#x201E;<strong>Der Entwickler hat es &#xFC;bernommen, also ist es ausreichend gepr&#xFC;ft<\/strong>.&#x201C; <\/p>\n\n\n\n<p class=\"wp-block-paragraph\">KI-generierte Snippets m&#xFC;ssen wie fremder, nicht qualifizierter Code behandelt werden und sollten stets per Prozess integriert werden. Das bedeutet konkret im Kontext Funktionale Sicherheit: KI Snippets d&#xFC;rfen nur dann verwendet werden, wenn der Entwickler den Code vollst&#xE4;ndig versteht, seine Funktion gegen die zugeh&#xF6;rigen Requirements pr&#xFC;fen kann und keine ungekl&#xE4;rten Annahmen aus dem Prompt oder aus der Modellantwort &#xFC;bernimmt. <\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Damit verschiebt sich die Rolle der Organisation. Sie muss nicht nur entscheiden, ob KI-Werkzeuge erlaubt sind. Sie muss definieren:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>welche Artefakte entstehen d&#xFC;rfen,<\/li>\n\n\n\n<li>wie Prompts dokumentiert werden, <\/li>\n\n\n\n<li>ob KI-generierter Code markiert werden muss, <\/li>\n\n\n\n<li>welche Review-Tiefe erforderlich ist;<\/li>\n\n\n\n<li>welche Codebereiche ausgeschlossen sind.<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">Die Alternative w&#xE4;re eine gremiale oder gesellschaftliche Entscheidung, die Nutzung generativer KI in sicherheitskritischen Systemen explizit zu untersagen. Das w&#xE4;re ein klarer, aber harter Ansatz. Er h&#xE4;tte den Vorteil eindeutiger Regeln, aber auch erhebliche praktische Schw&#xE4;chen: Er m&#xFC;sste kontrollierbar sein, d&#xFC;rfte keine Schattennutzung erzeugen und m&#xFC;sste gegen&#xFC;ber Produktivit&#xE4;tsdruck, Fachkr&#xE4;ftesituation und internationalem Wettbewerb bestehen.<\/p>\n\n\n\n<h3 id=\"grenzen-risiken-und-offene-punkte\" class=\"wp-block-heading\">Technische Grenzen<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">Ungeachtet aller Punkte m&#xFC;ssen die technischen Grenzen beleuchtet werden. <\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Sprachmodelle k&#xF6;nnen bei gr&#xF6;&#xDF;eren Codebasen Zusammenh&#xE4;nge verlieren. &#xC4;nderungen k&#xF6;nnen entfernte Abh&#xE4;ngigkeiten beeinflussen. Generierter Code kann uneinheitliche Strukturen, doppelte Logik oder verdeckte Annahmen enthalten. Sicherheitskritische Software erfordert au&#xDF;erdem kontrollierte Versionen, reproduzierbare Builds und nachvollziehbare &#xC4;nderungen. Prompt-Historien allein erf&#xFC;llen diese Rolle nicht.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Als gr&#xF6;&#xDF;ter Blocker f&#xFC;r eine fl&#xE4;chendeckende Nutzung f&#xFC;r Funktionale Sicherheit: KI hat eine <a href=\"https:\/\/medium.com\/@macplanet2012\/why-chatgpt-gives-you-a-different-answer-every-time-its-not-randomness-00d86dbcfe13\" target=\"_blank\" rel=\"noopener\">Randomness<\/a>. Denn es gibt eine inh&#xE4;rente Nicht-Deterministik generativer KI. Derselbe Prompt kann zu unterschiedlichen Code-Snippets f&#xFC;hren, abh&#xE4;ngig von Modellversion, Parametern, Kontextfenster, Temperatur, Anbieter oder Tool-Integration. F&#xFC;r funktionale Sicherheit ist das ein Problem, weil sicherheitskritische Entwicklung auf Reproduzierbarkeit angewiesen ist. <\/p>\n\n\n\n<h2 id=\"snippets-statt-software\" class=\"wp-block-heading\">Was geht und was nicht geht<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Ein tragf&#xE4;higer Prozess trennt KI-Assistenz von einer Verantwortungsverlagerung des Themas Funktionaler Sicherheit. KI liefert dann maximal Entw&#xFC;rfe oder Snippets. Das muss im Zweifelsfalle auch belegt werden. Die Organisation als Ganzes legt fest, welche Entw&#xFC;rfe &#xFC;bernommen werden, welche Pr&#xFC;fungen erfolgen und welche Nachweise im Safety Case verwendet werden. Das kann funktionieren, muss aber gleichzeitig an strenge Regeln gebunden werden, die Nachweise ben&#xF6;tigen werden.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Ein paar Beispiele f&#xFC;r solche Regeln:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Code wird nur nach Review und statischer Analyse (PASS) &#xFC;bernommen<\/li>\n\n\n\n<li>Traceability wird nicht aus KI-Texten abgeleitet, sondern gegen reale Artefakte gepr&#xFC;ft.<\/li>\n\n\n\n<li>Ein Prompt wird mehrmals ausgef&#xFC;hrt. Verschiedene Ergebnisse werden per Diff gegeneinander gepr&#xFC;ft<\/li>\n\n\n\n<li>Es gilt stets das 4-Augen-Prinzip<\/li>\n\n\n\n<li>Generierte Snippets werden als solche gekennzeichnet. Ein Ansatz ist ein Markup im Code oder im Ticket.<\/li>\n\n\n\n<li>Reviews und unabh&#xE4;ngige Verifikation bleiben stets manuell dokumentierte Prozessschritte.<\/li>\n<\/ul>\n\n\n\n<h2 id=\"fazit\" class=\"wp-block-heading\">Fazit<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Generative KI wird in der Embedded-Entwicklung nicht verschwinden, auch nicht im Umfeld funktionaler Sicherheit. Entscheidend ist deshalb nicht ein pauschales Ja oder Nein, sondern ein belastbarer Prozess: KI-generierte Snippets m&#xFC;ssen wie nicht qualifizierter Fremdcode behandelt, verstanden, gepr&#xFC;ft, dokumentiert und verifiziert werden. F&#xFC;r sicherheitskritische Systeme darf KI Produktivit&#xE4;t liefern, aber niemals Verantwortung, Tool-Qualifikation oder Safety-Nachweise ersetzen.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Wie sollen wir das Zusammenspiel Funktionale Sicherheit &#038; KI bewerten? Ein detaillierter Blick auf eine komplexe Gemengelage.<\/p>\n","protected":false},"author":1,"featured_media":2310,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[31,42],"tags":[],"class_list":["post-2301","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-software","category-functional-safety-2"],"blocksy_meta":[],"_links":{"self":[{"href":"https:\/\/www.pickplace.de\/de\/wp-json\/wp\/v2\/posts\/2301","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pickplace.de\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pickplace.de\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pickplace.de\/de\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pickplace.de\/de\/wp-json\/wp\/v2\/comments?post=2301"}],"version-history":[{"count":6,"href":"https:\/\/www.pickplace.de\/de\/wp-json\/wp\/v2\/posts\/2301\/revisions"}],"predecessor-version":[{"id":2311,"href":"https:\/\/www.pickplace.de\/de\/wp-json\/wp\/v2\/posts\/2301\/revisions\/2311"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.pickplace.de\/de\/wp-json\/wp\/v2\/media\/2310"}],"wp:attachment":[{"href":"https:\/\/www.pickplace.de\/de\/wp-json\/wp\/v2\/media?parent=2301"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pickplace.de\/de\/wp-json\/wp\/v2\/categories?post=2301"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pickplace.de\/de\/wp-json\/wp\/v2\/tags?post=2301"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}