Künstliche Intelligenz im Bitkom auf einen Blick

Künstliche Intelligenz

Künstliche Intelligenz

Dank steigender Rechenleistung, neuen Algorithmen und wachsenden Datenmengen konnten sich Künstliche Intelligenz ( KI ) beziehungsweise KI -Systeme in den letzten Jahren in etlichen Anwendungsfällen durchsetzen. Auf Textanalyse, Übersetzung, Bild- und Spracherkennung folgten sicherheitskritische Bereiche wie etwa das autonome Fahren. Das Bundesamt für Sicherheit in der Informationstechnik ( BSI ) leistet Grundlagenforschung und entwickelt bedarfsorientierte wie praxisnahe Anforderungen, Prüfkriterien und Prüfmethodologien, um den Einsatz von KI zum Wohle der Allgemeinheit sicher zu gestalten.

Chance und Bedrohung

Drei wesentliche Berührungspunkte von KI und IT -Sicherheit sind momentan Gegenstand intensiver Forschung:

IT -Sicherheit für KI : Wie können KI -Systeme angegriffen werden? Welche Angriffsszenarien entstehen durch den Einsatz von KI und welche Auswirkungen haben diese? Wie können KI -Systeme gegen KI -spezifische Angriffe nachweisbar geschützt werden?

-Sicherheit für : Wie können -Systeme angegriffen werden? Welche Angriffsszenarien entstehen durch den Einsatz von und welche Auswirkungen haben diese? Wie können -Systeme gegen -spezifische Angriffe nachweisbar geschützt werden? IT -Sicherheit durch KI : Wie können KI -Systeme die IT -Sicherheit verbessern? Welche Maßnahmen zur Verteidigung können effizienter gestaltet, welche neu entwickelt werden?

-Sicherheit durch : Wie können -Systeme die -Sicherheit verbessern? Welche Maßnahmen zur Verteidigung können effizienter gestaltet, welche neu entwickelt werden? Angriffe durch KI : Welche neuen Bedrohungen für IT -Systeme schaffen KI -Methoden in Angriffswerkzeugen? Welche bekannten Angriffe können durch KI verbessert werden? Wie können solche Angriffe erkannt und abgewehrt werden?

Diese Fragestellungen stehen sowohl innerhalb des BSI als auch in Standardisierungsgremien und Expertengruppen weltweit im Fokus. Dazu gehören DIN , ETSI , ITU , ENISA und die HLEG der Europäischen Kommission. Als Cyber-Sicherheitsbehörde des Bundes bringt das BSI hier seine Expertise ein.

Schwerpunkt Künstliche Intelligenz im BSI

Mehrere Referate bearbeiten das Thema KI mit unterschiedlichen inhaltlichen Schwerpunkten. Dabei geht es sowohl um konkrete KI -Systeme, etwa zur Verkehrsschildererkennung, als auch um allgemeine KI -Methoden wie tiefe neuronale Netze. Als gemeinsames Resultat seiner KI -Aktivitäten hat das BSI ein Überblicksdokument erstellt, das Probleme, Maßnahmen und Handlungsbedarfe für den sicheren, robusten und nachvollziehbaren Einsatz von KI präsentiert.

Sicherer, robuster und nachvollziehbarer Einsatz von KI

Secure, robust and transparent application of AI

Das BSI , der TÜV-Verband und das Fraunhofer Heinrich-Hertz-Institut ( HHI ) führen gemeinsam eine jährlich stattfindende Workshopreihe zur Prüfbarkeit von KI -Systemen mit international renommierten Expertinnen und Experten durch. In den Workshops wird der aktuelle Stand der Prüfbarkeit von KI -Systemen in sicherheitskritischen Bereichen als Grundlage für die Priorisierung von zukünftigen Arbeiten erfasst. Die Ergebnisse der Workshops hat das BSI mit den Expertinnen und Experten von TÜV-Verband, Fraunhofer und allen Vortragenden jeweils in einem Whitepaper zusammengefasst:

Towards Auditable AI Systems (2021)

Towards Auditable AI Systems (2022)

Die Erklärbarkeit Künstlicher Intelligenz untersucht das BSI ebenfalls. Thema einer Veröffentlichung von Anfang 2022 ist die Machbarkeit der Erstellung deterministischer, robuster Modelle des Deep Lerning ( DL ) und die Realisierbarkeit deterministisch erklärbarer Künstlicher Intelligenz ( XAI ) in der Praxis. Reproduzierbarkeit trägt als Voraussetzung zur Herleitung von Kausalität aus DL -Modellergebnissen zur Schaffung von Vertrauen in KI -System-Anwendungen bei. Die englischsprachige Arbeit untersucht die auf dem Weg zur Reproduzierbarkeit zu lösenden Probleme und den möglichen Umgang mit einigen davon.

Deep Learning Reproducibility and Explainable AI (XAI)

Kompetenzzentrum Künstliche Intelligenz

Existierende Standards für klassische IT -Systeme lassen sich aufgrund der besonderen Struktur moderner KI -Systeme nicht unmittelbar übertragen. So besteht eine weitere Schwierigkeit für VerbraucherInnen, Unternehmen oder Behörden darin, die Sicherheit von KI -Systemen im jeweiligen Anwendungsfall zu bewerten. Um geeignete Sicherheitsnachweise für eine Bewertbarkeit ausstellen zu können, benötigen qualifizierte Prüfer hinreichend geeignete und verlässliche Prüfkriterien, -methodologien und -werkzeuge.

Deren Erstellung zu koordinieren, ist Aufgabe des 2019 ins Leben gerufenen Kompetenzzentrums Künstliche Intelligenz im BSI . Dabei berücksichtigt es mehrere Aspekte der KI wie beispielsweise Robustheit, Sicherheit, Verlässlichkeit, Integrität, Transparenz, Erklärbarkeit, Interpretierbarkeit und Fairness beziehungsweise Nichtdiskriminierung von KI -Systemen sowie die Qualität der Daten, die eine zentrale Rolle für das maschinelle Lernen spielen. Das Kompetenzzentrum dient der Bundesverwaltung als zentraler KI -Ansprechpartner.

Ein erstes Ergebnis seiner Arbeit ist der AI Cloud Service Compliance Criteria Catalogue ( AIC4 ). Er gibt professionellen Anwendern eine erste Basis, um die Sicherheit von KI -Diensten in einer Cloud für ihren Anwendungsfall hinsichtlich ausgewählter Aspekte zu bewerten. Diese Kriterien werden regelmäßig überarbeitet, um die Aussagekraft stetig zu erhöhen und den aktuellen Stand der Technik abzubilden. Kriterien für weitere Anwendungsfälle werden folgen.

KI in sicherheitskritischen Bereichen wie Automotive und Biometrie

KI -Methoden werden zunehmend und im großen Maßstab für sicherheitskritische Aufgaben eingesetzt. Dazu zählen biometrische Identifikation und Verifikation von Personen, aber auch Kernfunktionalitäten des autonomen Fahrens. Die spezifischen Rahmenbedingungen dieser praktischen Anwendungen unterscheiden sich erheblich.

So gilt es insbesondere, die Robustheit der Verfahren gegenüber zufälligen Änderungen in den Eingabedaten zu bewerten. Beim automatisierten Fahren muss beispielsweise die Erkennung von Verkehrsschildern auch bei widrigen Wetterbedingungen oder Verschmutzungen der Kamera oder der Schilder zuverlässig funktionieren. Zu diesem Zweck entwickelt das BSI gemeinsam mit dem Verband der Technischen Überwachungs-Vereine ( VdTÜV ) seit Mitte 2019 Anforderungen an KI -Systeme im Mobilitätsbereich.

Fachartikel des BSI zu grundsätzlichen Fragestellungen der IT -Sicherheit von KI -Anwendungen (Juli 2020, Frontiers in big data, engl.)

Beispiel Kryptografie: KI unterstützt technische Evaluierung

KI -Techniken wendet das BSI auch auf kryptografische Fragestellungen an. Mit Blick auf neue Angriffsmöglichkeiten werden kryptografische Verfahren und Implementierungen neu bewertet und bestehende Anforderungen wo nötig angepasst.

Unter Beweis stellen konnte das BSI seine Fähigkeiten bereits auf der Kryptografietagung CHES . Unter Zuhilfenahme von KI -Methoden belegte ein BSI -Team 2018 in zwei Einzeldisziplinen den ersten Platz in der CHES , 2020 trug es den Gesamtsieg davon.

Studien des BSI zum Thema KI

Das BSI beschäftigt sich im Bereich der Künstlichen Intelligenz bereits heute mit Zukunftstechnologien wie dem „Quantum Machine Learning“. Dieses analysiert und erprobt die Potentiale des Quantencomputings im Kontext des maschinellen Lernens. Im ersten grundlegenden Arbeitsergebnis zum „Quantum Machine Learning“ ist der aktuelle Stand des Fachgebietes zusammenfassend dargestellt.

Definitionen: Künstliche Intelligenz und KI -Systeme

Das BSI versteht unter dem Begriff "Künstliche Intelligenz" die Technologie und die wissenschaftliche Disziplin, die mehrere Ansätze und Techniken wie zum Beispiel maschinelles Lernen, maschinelles Schließen und die Robotik umfassen.

KI -Systeme sind Software- und Hardwaresysteme, die Künstliche Intelligenz nutzen, um in der physischen oder digitalen Welt "rational" zu handeln. Auf Grundlage von Wahrnehmung und Analyse ihrer Umgebung agieren sie mit einem gewissen Grad an Autonomie, um bestimmte Ziele zu erreichen.

Gesellschaft für Informatik e.V.

Allgemein unterstützt der FBKI relevante Initiativen und Aktivitäten zu Forschung und Bildung im Bereich Künstliche Intelligenz in Deutschland. Neueste Arbeiten zu Forschung und Entwicklung in der KI aus allen Fachgruppen und Arbeitskreisen des FBKI werden auf dessen jährlicher Fachtagung "KI Künstliche Intellgenz" vorgestellt.

Zudem werden in der vom FBKI herausgegebenen Fachzeitschrift "Künstliche Intelligenz" (Springer Verlag) neben fachlichen Aufsätzen zu verschiedenen Themen der KI auch laufend über Aktivitäten von Fachgruppen und Arbeitskreisen des FBKI berichtet.

Mitglied im Fachbereich KI der Gesellschaft für Informatik wird man (1) durch Antrag auf Mitgliedschaft in der GI und dann (2) Antrag auf Mitgliedschaft im FBKI bzw. einer oder mehrerer Fachgruppen des Fachbereichs im Mitgliederbereich (unter https://meine.gi.de - "Mitgliedschaft und Leistungen"). Verbunden mit der GI-FBKI Mitgliedschaft ist der Bezug der Zeitschrift KI (Künstliche Intelligenz) im Springer-Verlag.

E-Mail Liste des FBKI (nur für Mitglieder): fbki@lists.gi.de, Registrierung.

Künstliche Intelligenz im Bitkom auf einen Blick

1968 hat Stanley Kubrick mit „2001: Odyssee im Weltraum“ einen Film-Klassiker geschaffen, der bis heute die öffentliche Debatte um Künstliche Intelligenz (KI) prägt. Doch die in SciFi prophezeiten Horrorszenarien haben sich als falsch erwiesen. KI ermöglicht heute eine neue Ära der Mensch-Maschine Zusammenarbeit: Gemeinsam steuern wir Cobots in der Produktion, analysieren Krankheitsbilder in der Medizin und optimieren den Ernteerfolg in der Landwirtschaft.

Im Bitkom befassen wir uns mit allen Facetten dieser Technologie: Von der Verwertung angewandter Forschungsergebnisse über den Wissenstransfer in die Wirtschaft bis hin zu der politischen Gestaltung ethischer Rahmenbedingungen für die Entwicklung und Anwendung von KI.

Die Aktivitäten des Bereichs KI spielen sich im Arbeitskreis Artificial Intelligence ab. Die Experten des Arbeitskreises treiben in ihrer täglichen Arbeit den Einsatz der KI voran: In global agierenden Großunternehmen, KMUs sowie innovativen Startups. Der Arbeitskreis präsentiert regelmäßige Sitzungen, oft zusammen mit anderen Arbeitskreisen der sich digitalisierenden Branchen. Außerdem existieren innerhalb des Arbeitskreises zwei Arbeitsgruppen:

In der Taskforce Ethik diskutieren Experten über die ethischen Aspekte der KI

diskutieren Experten über die ethischen Aspekte der KI In der Taskforce Politik werden politische Positionspapiere ausgearbeitet

werden politische Positionspapiere ausgearbeitet In der Taskforce Recht werden KI-bezogene Rechtsfragen behandelt

Für mehr Informationen besuchen Sie gerne unsere Themenseite.