Cover E VDE-AR-E 2842-61-5 Anwendungsregel:2022-12
größer

E VDE-AR-E 2842-61-5 Anwendungsregel:2022-12

Entwicklung und Vertrauenswürdigkeit von autonom/kognitiven Systemen

Teil 61-5: Entwicklung auf Technologie-Ebene; Text Englisch

Art/Status: Norm-Entwurf, gültig
Ausgabedatum: 2022-12   Erscheinungsdatum: 2022-11-18
VDE-Artnr.: 1800780
Ende der Einspruchsfrist: 2023-01-18

Künstliche Intelligenz (KI) verfügt über das große Potenzial, die Gesellschaft, Wirtschaft und das Zusammenleben der Menschen nachhaltig zu verändern. Sie kann helfen, Emissionen zu verringern, Krankheiten zu entdecken, Menschen oder Güter zu transportieren oder Prozesse effizienter zu gestalten. Gleichzeitig stellt KI die Menschheit vor große Herausforderungen zu den Befugnissen von KI-Systemen.
Die Lösung dieser Fragen erfordert eine technische Umsetzung bei der Konzeption von KI-Systemen und -Algorithmen. Es müssen technische Regeln implementiert werden, die definieren, wie KI-Komponenten in Produkte integriert werden können und den vorgelagerten Entwurfsprozess beschreiben.
Die Sicherheit von KI-Systemen und -Lösungen muss zu jeder Zeit gewährleistet sein, sobald diese im Markt zur Anwendung kommen. Die Besonderheit von KI-Systemen ist deren Komplexität: Funktionen können nicht einfach (durch den Menschen) geprüft werden. Das System muss die Sicherheit selbst gewährleisten und beispielsweise Anforderungen der funktionalen Sicherheit inhärent erfüllen.
Diese VDE-Anwendungsregel wird auch Vorgaben zu Verifikation und Qualifikation solcher Systeme geben und somit den gesamten Lebenszyklus abbilden.
Einen besonderen Schwerpunkt legt diese VDE-Anwendungsregel auf die Entwurfsphase (development): Die Abgrenzung im Vergleich zu den klassischen Grenzen einer Maschine wird weiter gefasst, da die Interaktion mit dem Menschen und die Interaktion mit der Umgebung mit spezifiziert werden muss.
Insbesondere für KI-Systeme sind Vertrauenswürdigkeitsanforderungen (trustworthiness), wie physische Sicherheit (safety), Informationssicherheit (security), Gebrauchstauglichkeit (usability) oder ethische und regulatorische Fragestellungen, von elementarer Bedeutung. Das Modell der VDE-Anwendungsregel wird Anforderungen definieren, die zu Vertrauenswürdigkeit beitragen. Damit werden unter anderem Grundlagen für Qualifizierung und Zulassung gelegt, die über den weiteren Prozess nachverfolgt werden können.
Diese VDE-Anwendungsregel wird verschiedene Entwicklungsschritte anhand des Lebenszyklus für KI-Systeme definieren. Hierzu gehören der Entwurf auf Systemebene (u. a. Vertrauenswürdigkeitsattribute), Komponentenebene (u. a. Hardware, Software und KI-Blaupausen zur Anwendung einer KI-Methodik), Integration, Verifikation und Validierung sowie Abnahme und Freigabe. Das Modell umfasst darüber hinaus auch Vorgaben zur Marktbeobachtung und korrigierende sowie schützende Maßnahmen (eng. Corrective And Preventive Action – CAPA).
AT englisch:
Artificial intelligence (AI) has great potential to change society, the economy and the way people live together in the long term. It can help reduce emissions, detect diseases, transport people or goods, or make processes more efficient. At the same time, AI poses great challenges to humanity regarding the powers of AI systems.
The solution to these questions requires technical implementation when designing AI systems and algorithms. Technical rules must be implemented that define how AI components can be integrated into products and describe the upstream design process.
The security of AI systems and solutions must be guaranteed at all times as soon as they are used in the market. The special feature of AI systems is their complexity: functions cannot simply be checked (by humans). The system must ensure safety itself and, for example, inherently meet functional safety requirements.
This VDE application guide will also provide specifications for the verification and qualification of such systems and thus depict the entire life cycle.
This VDE application guide places a special focus on the design phase (development): The delimitation compared to the classic limits of a machine is defined more broadly, since the interaction with humans and the interaction with the environment must also be specified.
For AI systems in particular, trustworthiness requirements such as physical security, information security, usability or ethical and regulatory issues are of fundamental importance. The VDE application guide model will define requirements that contribute to trustworthiness. Among other things, this lays the foundations for qualification and approval, which can be tracked throughout the further process.
This VDE application guide will define various development steps based on the life cycle for AI systems. This includes design at the system level (including trust attributes), component level (including hardware, software and AI blueprints for applying an AI methodology), integration, verification and validation, and acceptance and release. The model also includes specifications for market monitoring and corrective and protective measures (corrective and preventive action – CAPA).