Künstliche Intelligenz. Datenschutz von Anfang an.
Künstliche Intelligenz eröffnet
neue Möglichkeiten,
große Informationsmengen
zu analysieren,
komplexe Zusammenhänge
zu erkennen und
Arbeitsprozesse zu unterstützen.
Werden dabei personenbezogene
oder vertrauliche Informationen
verarbeitet, entstehen
besondere Anforderungen
an Datenschutz,
Informationssicherheit
und technische Kontrolle.
Bei Digitales Erbe verbinden wir
unsere langjährige Fachkompetenz
im Datenschutz und
der Informationssicherheit
mit der Entwicklung und
dem Betrieb eigener KI-Systeme.
Dabei berücksichtigen wir
Sicherheits- und
Datenschutzanforderungen
bereits bei der Konzeption
unserer Anwendungen.
Unser Grundsatz:
Wer sensible Informationen
mit KI verarbeitet,
muss Datenflüsse,
Zugriffsberechtigungen
und Verarbeitungsbedingungen
kontrollieren können.
SICHERHEITSDIMENSIONEN EINER KI-ARCHITEKTUR
◆
Kontrollierte KI-Verarbeitung
Datenschutz und
Informationssicherheit
als Bestandteil
der Systemarchitektur
Datenverarbeitung
Nachvollziehbare
Datenflüsse und
Verarbeitungszwecke
Lokale Infrastruktur
Eigene Rechensysteme
und kontrollierte
Betriebsumgebung
Zugriffsschutz
Berechtigungen und
technische
Zugriffskontrollen
Ergebnisprüfung
Qualitätskontrolle
und fachliche
Bewertung
Vereinfachte Darstellung
grundlegender Sicherheitsdimensionen.
Kein vollständiger technischer
Architektur- oder Datenflussplan.
Datenhoheit
Kontrolle über die
Verarbeitungsumgebung,
eingesetzte Systeme
und den Umgang
mit Informationen.
Informationssicherheit
Berücksichtigung
technischer und
organisatorischer
Schutzmaßnahmen
während des gesamten
KI-Lebenszyklus.
Fachliche Verantwortung
KI unterstützt
die Informationsverarbeitung.
Die erforderliche
fachliche Bewertung
verbleibt beim Menschen.
KI & SICHERHEIT · BETRIEBSMODELLE
Lokale KI und Datenhoheit. Kontrolle beginnt bei der Infrastruktur.
Wo künstliche Intelligenz betrieben wird,
beeinflusst die technischen Möglichkeiten
zur Kontrolle von Datenflüssen,
Zugriffsberechtigungen und
Verarbeitungsbedingungen.
Lokale, cloudbasierte und hybride
KI-Architekturen unterscheiden sich
insbesondere hinsichtlich
der Betriebsverantwortung,
der technischen Kontrolle
und der Abhängigkeit
von externen Dienstleistern.
Welche Architektur geeignet ist,
hängt vom jeweiligen
Einsatzzweck und
den Schutzanforderungen ab.
01 · LOKAL
Lokale KI-Infrastruktur
KI-Modelle werden auf
selbst betriebenen
Rechensystemen ausgeführt.
Dadurch lassen sich
Verarbeitungsumgebung,
Systemkonfiguration
und wesentliche
Datenflüsse unmittelbar
durch den Betreiber steuern.
Die Verantwortung
für den sicheren Betrieb
liegt dabei ebenfalls
beim Betreiber.
02 · CLOUD
Cloudbasierte KI
KI-Funktionen werden
über die Infrastruktur
eines externen Anbieters
bereitgestellt.
Dadurch können
leistungsfähige Modelle
ohne eigene
KI-Rechenhardware
genutzt werden.
Datenschutz und Sicherheit
hängen unter anderem
von den vertraglichen
Vereinbarungen,
technischen Maßnahmen
und tatsächlichen
Verarbeitungsbedingungen ab.
03 · HYBRID
Hybride KI-Architektur
Hybride Systeme kombinieren
lokale und externe
Verarbeitungsumgebungen.
Beispielsweise können
bestimmte Aufgaben
lokal ausgeführt werden,
während andere
Funktionen externe
Rechenressourcen nutzen.
Entscheidend ist,
welche Informationen
die jeweilige
Systemgrenze überschreiten.
Unsere eigene KI-Infrastruktur
Digitales Erbe betreibt
eine eigene lokale
KI-Infrastruktur.
Die folgende Darstellung
veranschaulicht das
Zusammenspiel unserer
KI-Anwendungen,
der beiden NVIDIA DGX Spark
und einer zusätzlichen
lokalen KI-Prüfinstanz.
Aus Sicherheitsgründen
verzichten wir auf
die Veröffentlichung
interner Kommunikations-
und Systemkennungen.
UNTERNEHMENSEIGENE KI-UMGEBUNG
Eigene KI-Anwendungen
Fachliche Anfragen,
Informationsanalyse
und dokumentenbezogene
Verarbeitung
↓
NVIDIA DGX Spark 01
Lokaler Modellbetrieb
und KI-Verarbeitung
128 GB gemeinsamer
CPU-GPU-Speicher
NVIDIA DGX Spark 02
Zusätzliche lokale
Rechenressourcen
und Modellverarbeitung
128 GB gemeinsamer
CPU-GPU-Speicher
↓
Zusätzliche KI-Prüfinstanz
Lokal auf einem Mac
betriebene KI zur
Bewertung von Ergebnissen
anhand definierter
interner Anforderungen.
Bei erkannten Abweichungen
kann eine überarbeitete
Anfrage zur erneuten
Verarbeitung erstellt werden.
Schematische Darstellung der
wesentlichen Verarbeitungskomponenten.
Die 256 GB Gesamtspeicher
verteilen sich auf zwei Systeme
und bilden nicht automatisch
einen einzigen gemeinsamen
Speicherpool.
Die Darstellung enthält
keine vollständigen
Netz- oder Datenflussdetails.
Welche Vorteile bietet eine eigene KI-Infrastruktur?
01 · VERARBEITUNGSORT
Kontrolle über die Betriebsumgebung
Der Betreiber kann festlegen,
auf welchen eigenen
Systemen KI-Modelle
ausgeführt werden.
Dadurch können
Verarbeitungsorte
und technische
Betriebsbedingungen
gezielt gestaltet werden.
02 · DATENFLÜSSE
Kontrollierbare Informationswege
Eine lokale Architektur
ermöglicht es,
externe Datenübertragungen
gezielt zu begrenzen
und technische
Kommunikationswege
nach den jeweiligen
Anforderungen zu gestalten.
Ob Daten tatsächlich
ausschließlich lokal
verarbeitet werden,
hängt von der gesamten
Systemkonfiguration ab.
03 · MODELLAUSWAHL
Eigenständige technische Entscheidungen
Bei einer eigenen
KI-Infrastruktur
können Modelle
und Verarbeitungskomponenten
entsprechend den
fachlichen Anforderungen
ausgewählt werden.
Auch Aktualisierungen
und Änderungen
der Modellkonfiguration
lassen sich gezielt planen.
04 · VERANTWORTUNG
Direkte Betriebsverantwortung
Die technische Kontrolle
über eine eigene
Infrastruktur geht
mit entsprechenden
Pflichten einher.
Dazu gehören
Sicherheitsaktualisierungen,
Zugriffsschutz,
Überwachung,
Datensicherung
und die Behandlung
technischer Sicherheitsvorfälle.
Lokale Verarbeitung ist ein Architekturmerkmal –
kein automatischer Sicherheitsnachweis.
Eine eigene KI-Infrastruktur
kann die Datenhoheit stärken
und Abhängigkeiten von
externen KI-Dienstleistern
reduzieren.
Sie schützt jedoch nicht
automatisch vor
unberechtigten Zugriffen,
fehlerhaften Konfigurationen,
Sicherheitslücken oder
ungeeigneten Verarbeitungsprozessen.
Für einen sicheren
und datenschutzgerechten
Betrieb sind zusätzliche
technische und
organisatorische Maßnahmen
erforderlich.
Dazu gehören beispielsweise
angemessene Zugriffskontrollen,
Systemhärtung,
Aktualisierungsprozesse,
die Prüfung von Datenflüssen
und geeignete
Sicherheitsverfahren.
Bei Digitales Erbe
berücksichtigen wir
Datenschutz und
Informationssicherheit
als wesentliche Anforderungen
bei der Entwicklung
und dem Betrieb
unserer eigenen
KI-Anwendungen.
KI & SICHERHEIT · RECHTLICHE ANFORDERUNGEN
KI und Datenschutzrecht. Technologie braucht einen rechtlichen Rahmen.
Künstliche Intelligenz ist kein
rechtsfreier Raum.
Werden personenbezogene Daten
verarbeitet, müssen die
einschlägigen datenschutzrechtlichen
Anforderungen eingehalten werden.
Gleichzeitig können für bestimmte
KI-Systeme zusätzliche
Anforderungen aus der
europäischen KI-Verordnung
entstehen.
Datenschutzrecht und
KI-Regulierung verfolgen
unterschiedliche Schutzziele,
können jedoch gleichzeitig
auf dieselbe Anwendung
anwendbar sein.
01 · EUROPÄISCHES DATENSCHUTZRECHT
DSGVO
Die Datenschutz-Grundverordnung
regelt die Verarbeitung
personenbezogener Daten.
Sie enthält unter anderem
Anforderungen an
Rechtmäßigkeit,
Transparenz,
Zweckbindung,
Datenminimierung,
Sicherheit und
Betroffenenrechte.
Diese Anforderungen gelten
grundsätzlich auch beim
Einsatz von KI,
sofern personenbezogene
Daten verarbeitet werden.
02 · NATIONALES DATENSCHUTZRECHT
BDSG
Das Bundesdatenschutzgesetz
ergänzt die DSGVO
in Deutschland
innerhalb der vorgesehenen
gesetzlichen Regelungsspielräume.
Je nach Verarbeitung
können insbesondere
nationale Vorschriften
zum Beschäftigtendatenschutz
oder zu besonderen
Verarbeitungssituationen
relevant sein.
Zusätzlich können
weitere bereichsspezifische
Vorschriften gelten.
03 · EUROPÄISCHE KI-REGULIERUNG
EU AI Act
Die europäische KI-Verordnung
schafft einen eigenständigen
Rechtsrahmen für
künstliche Intelligenz.
Die Anforderungen richten sich
unter anderem nach
dem jeweiligen KI-System,
seinem Einsatzzweck
und der Rolle
der beteiligten Akteure.
Sie ersetzt die DSGVO nicht.
Zentrale Datenschutzanforderungen beim KI-Einsatz
01 · RECHTMÄSSIGKEIT
Rechtsgrundlage und Zweckbindung
Die Verarbeitung
personenbezogener Daten
benötigt eine geeignete
Rechtsgrundlage nach
Artikel 6 DSGVO.
Bei besonderen Kategorien
personenbezogener Daten
sind zusätzlich die
Anforderungen des
Artikels 9 DSGVO
zu berücksichtigen.
Verarbeitungszwecke
müssen festgelegt
und die gesetzlichen
Anforderungen an
Zweckänderungen
beachtet werden.
Auch bei KI-Anwendungen
dürfen personenbezogene Daten
nicht allein deshalb
unbegrenzt verarbeitet werden,
weil die Technologie
große Datenmengen
verarbeiten kann.
Die Verarbeitung
muss auf das für
die jeweiligen Zwecke
erforderliche Maß
begrenzt werden.
Speicherfristen und
Löschkonzepte sind
ebenfalls zu berücksichtigen.
03 · TRANSPARENZ
Informationspflichten und Betroffenenrechte
Betroffene Personen
müssen nach Maßgabe
der DSGVO über
die Verarbeitung
ihrer personenbezogenen
Daten informiert werden.
Je nach Verarbeitung
können unter anderem
Auskunfts-, Berichtigungs-,
Löschungs- und
Widerspruchsrechte bestehen.
Auch die besonderen
Anforderungen an
automatisierte Entscheidungen
nach Artikel 22 DSGVO
können relevant werden.
04 · RISIKOBEWERTUNG
Datenschutz-Folgenabschätzung
Kann eine Verarbeitung
voraussichtlich ein
hohes Risiko für
die Rechte und Freiheiten
natürlicher Personen
zur Folge haben,
ist nach Artikel 35 DSGVO
eine Datenschutz-
Folgenabschätzung
erforderlich.
Der Einsatz von KI
führt nicht automatisch
in jedem Fall
zu dieser Pflicht.
Entscheidend sind
die konkreten Risiken
der Verarbeitung.
05 · DIENSTLEISTER
Auftragsverarbeitung und Drittlandtransfers
Werden externe
KI-Dienstleister eingesetzt,
müssen deren datenschutzrechtliche
Rollen geprüft werden.
Bei einer Auftragsverarbeitung
ist insbesondere
Artikel 28 DSGVO relevant.
Für Übermittlungen
personenbezogener Daten
in Drittländer
sind zusätzlich
die Anforderungen
des Kapitels V DSGVO
zu beachten.
06 · TECHNISCHE SICHERHEIT
Datenschutz durch Technikgestaltung
Artikel 25 DSGVO
enthält Anforderungen
an Datenschutz durch
Technikgestaltung
und datenschutzfreundliche
Voreinstellungen.
Artikel 32 DSGVO
verlangt geeignete
technische und
organisatorische
Sicherheitsmaßnahmen.
Welche Maßnahmen
angemessen sind,
hängt insbesondere
von den Risiken
der Verarbeitung ab.
EUROPÄISCHE KI-VERORDNUNG
EU AI Act: Zusätzliche Anforderungen an KI-Systeme
Die Verordnung (EU) 2024/1689
verfolgt einen risikobasierten Ansatz.
Sie unterscheidet unter anderem
zwischen verbotenen KI-Praktiken,
Hochrisiko-KI-Systemen
und bestimmten KI-Systemen
mit besonderen Transparenzpflichten.
Zusätzlich enthält sie
Regelungen für Modelle
mit allgemeinem Verwendungszweck.
Welche Pflichten gelten,
hängt insbesondere
von der Einordnung
des jeweiligen Systems,
dem vorgesehenen Einsatzzweck
und der Rolle
des betreffenden Unternehmens ab.
Auch die zeitlich gestaffelte
Anwendbarkeit der Vorschriften
muss berücksichtigt werden.
Verbotene KI-Praktiken
Bestimmte gesetzlich
definierte KI-Praktiken
sind aufgrund
ihrer Risiken
untersagt.
Hochrisiko-KI-Systeme
Für entsprechend
eingestufte Systeme
gelten besondere
Anforderungen,
beispielsweise an
Risikomanagement,
Dokumentation
und menschliche Aufsicht.
Transparenzpflichten
Für bestimmte
KI-Anwendungen
bestehen besondere
Informations-
und Kennzeichnungspflichten.
Ihr Umfang hängt
vom jeweiligen
Anwendungsfall ab.
Vom rechtlichen Erfordernis
zur technischen Umsetzung
Datenschutzanforderungen
müssen in konkrete
organisatorische und
technische Maßnahmen
übersetzt werden.
Eine strukturierte
Vorgehensweise kann
dabei helfen,
Anforderungen bereits
während der Entwicklung
einer KI-Anwendung
zu berücksichtigen.
01 · Verarbeitung
Zwecke,
Datenkategorien
und beteiligte
Systeme erfassen
02 · Rechtsprüfung
Rechtsgrundlagen,
Pflichten und
Risiken bewerten
03 · Schutzmaßnahmen
Geeignete technische
und organisatorische
Maßnahmen festlegen
04 · Überprüfung
Umsetzung,
Wirksamkeit
und Änderungen
regelmäßig bewerten
PRAXIS · DIGITALES ERBE
Datenschutzkompetenz trifft eigene KI-Entwicklung
Digitales Erbe verbindet
langjährige Erfahrung
im Datenschutz und
der Informationssicherheit
mit der Entwicklung
eigener KI-Anwendungen.
Unsere KI-Infrastruktur
betreiben wir
auf eigenen Rechensystemen.
Dadurch können wir
wesentliche technische
Entscheidungen über
Modellbetrieb,
Verarbeitungsumgebung
und Datenflüsse
selbst gestalten.
Bei der Entwicklung
unserer Anwendungen
berücksichtigen wir
datenschutzrechtliche
Anforderungen und
technische Sicherheitsaspekte.
Dazu gehören insbesondere
die Bewertung der
Verarbeitungszwecke,
der Umgang mit
personenbezogenen Daten
und die Auswahl
geeigneter Schutzmaßnahmen.
Unsere zusätzliche
KI-gestützte Prüfinstanz
unterstützt außerdem
die Bewertung
generierter Ergebnisse
anhand interner Vorgaben.
Diese technische
Qualitätskontrolle
ersetzt jedoch
weder die erforderliche
rechtliche Prüfung
noch die fachliche
Verantwortung.
KI & SICHERHEIT · TECHNISCHE ARCHITEKTUR
Sicherheit auf mehreren Ebenen. Vom Rechensystem bis zur KI-Antwort.
Der sichere Betrieb künstlicher
Intelligenz erfordert mehr
als den Schutz einzelner
Anwendungen.
Rechensysteme,
Betriebssysteme,
Kommunikationswege,
Datenbestände und
KI-Modelle bilden
eine zusammenhängende
technische Umgebung.
Sicherheitsmaßnahmen
müssen deshalb
auf unterschiedlichen
Ebenen ansetzen.
Bei Digitales Erbe
verbinden wir diesen
mehrschichtigen Ansatz
mit dem Betrieb
unserer eigenen
KI-Infrastruktur.
Mehrschichtige Sicherheitsarchitektur
Eine geeignete KI-Sicherheitsarchitektur
berücksichtigt sowohl
die zugrunde liegende
Infrastruktur als auch
die Verarbeitung und
Bewertung der Ergebnisse.
Die folgende Darstellung
zeigt die wesentlichen
Schutzebenen vereinfacht.
SCHUTZEBENE 01
Infrastruktur und Betriebssysteme
Schutz vor unberechtigtem
Systemzugriff,
Begrenzung externer
Erreichbarkeit,
sichere Konfiguration
und regelmäßige
Aktualisierung
der eingesetzten
Betriebssysteme.
SCHUTZEBENE 02
Daten und KI-Verarbeitung
Kontrollierte Datenflüsse,
angemessene Berechtigungen,
Schutz vertraulicher
Informationen und
geeignete Maßnahmen
für den Betrieb
von KI-Modellen
und Anwendungen.
SCHUTZEBENE 03
Ergebnisprüfung und Betriebssicherheit
Bewertung generierter
Ergebnisse,
Überprüfung definierter
Qualitätsanforderungen,
Datensicherung und
geeignete Verfahren
zur Aufrechterhaltung
des Betriebs.
Die Schutzebenen ergänzen
einander und sind nicht
als voneinander unabhängige
Sicherheitsgarantien
zu verstehen.
Unsere beiden NVIDIA DGX Spark
werden innerhalb unserer
eigenen KI-Umgebung betrieben.
Für den Betrieb haben wir
konkrete Maßnahmen
zum Schutz der Systeme
und zur Sicherung
der Betriebsfähigkeit umgesetzt.
01 · NETZWERKSCHUTZ
Keine direkte externe Erreichbarkeit
Unsere DGX-Spark-Systeme
sind nicht direkt
von außen erreichbar.
Dadurch wird
die unmittelbare
Angriffsfläche
gegenüber externen
Zugriffsversuchen
begrenzt.
Die Maßnahme
ist Bestandteil
unseres Schutzkonzepts
für die lokale
KI-Infrastruktur.
02 · ZUGANGSSCHUTZ
Kennwortgeschützter Systemzugriff
Der Zugriff
auf unsere
DGX-Spark-Systeme
ist kennwortgeschützt.
Damit besteht
eine technische
Zugangshürde
gegen unberechtigte
Nutzung.
Der Kennwortschutz
ist eine
grundlegende
Sicherheitsmaßnahme,
die durch weitere
Schutzmechanismen
ergänzt werden kann.
03 · SYSTEMPFLEGE
Regelmäßige Betriebssystemupdates
Die Betriebssysteme
unserer DGX Spark
werden regelmäßig
aktualisiert.
Sicherheitsupdates
und Systemaktualisierungen
sind ein wichtiger
Bestandteil
der laufenden
Systempflege.
Sie tragen dazu bei,
bekannte Schwachstellen
zu beheben und
den sicheren Betrieb
der Infrastruktur
zu unterstützen.
04 · DATENSICHERUNG
Regelmäßige Backups
Für unsere
DGX-Spark-Infrastruktur
werden regelmäßig
Datensicherungen
durchgeführt.
Backups unterstützen
die Wiederherstellung
gesicherter Informationen
nach technischen
Störungen oder
Datenverlusten.
Sie bilden damit
einen wichtigen
Bestandteil
der Betriebssicherheit.
Informationssicherheit ist ein fortlaufender Prozess
Sicherheitsmaßnahmen müssen
nicht nur bei der
erstmaligen Einrichtung
eines KI-Systems
berücksichtigt werden.
Auch während des laufenden
Betriebs sind
technische Veränderungen,
neue Schwachstellen
und sich wandelnde
Anforderungen zu beachten.
Ein strukturierter
Sicherheitslebenszyklus
kann dabei helfen.
01 · Konzeption
Schutzbedarf,
Risiken und
Sicherheitsanforderungen
bestimmen
02 · Umsetzung
Geeignete
technische und
organisatorische
Maßnahmen einrichten
03 · Betrieb
Systeme pflegen,
Aktualisierungen
durchführen und
Datensicherungen
berücksichtigen
04 · Überprüfung
Wirksamkeit
bewerten und
Schutzmaßnahmen
bei Bedarf
weiterentwickeln
Sicherheit entsteht durch das Zusammenspiel
mehrerer Maßnahmen.
Die fehlende direkte
externe Erreichbarkeit
unserer DGX Spark,
der Kennwortschutz,
die regelmäßige
Aktualisierung
der Betriebssysteme
und unsere
Datensicherungen
bilden wichtige
Bestandteile
unseres technischen
Sicherheitskonzepts.
Gleichzeitig betrachten wir
Informationssicherheit
nicht als einmalig
abgeschlossene Aufgabe.
Neue technische
Entwicklungen,
Veränderungen
der Systemumgebung
und zusätzliche
KI-Anwendungen
erfordern eine
fortlaufende
Bewertung der
eingesetzten Maßnahmen.
Unsere Fachkompetenz
im Datenschutz
und der Informationssicherheit
fließt deshalb
in die Weiterentwicklung
unserer eigenen
KI-Technologie ein.
KI & SICHERHEIT · ZUGRIFFSKONTROLLE
Geschützte Zugänge. Getrennte Berechtigungen und sichere Kommunikation.
Die Sicherheit einer KI-Infrastruktur
hängt wesentlich davon ab,
wer auf welche Systeme
und Funktionen zugreifen kann.
Bei Digitales Erbe
verwenden wir getrennte
Benutzerzugänge für
unterschiedliche Aufgabenbereiche.
Die Kommunikation zwischen
unseren KI-Komponenten
erfolgt über einen
geschützten Kommunikationsweg.
Auch die Administration
unserer DGX-Spark-Systeme
erfolgt über verschlüsselte
Verbindungen.
Getrennte Zugänge für unterschiedliche Aufgaben
Unsere KI-Infrastruktur
verwendet unterschiedliche
Benutzerkonten für
Administration,
strukturierte Datenkommunikation
und die webbasierte
Bedienoberfläche.
Ohne erfolgreiche
Benutzeranmeldung
ist kein regulärer Zugriff
auf die jeweiligen
Systemfunktionen möglich.
ZUGANG 01
Administration
Separater Zugang
für die Wartung
und Verwaltung
der DGX-Spark-Systeme
über SSH.
ZUGANG 02
JSON-Kommunikation
Eigenständiger
Benutzerzugang
für den strukturierten
Datenaustausch
zwischen Mac-Prüfinstanz
und KI-Infrastruktur.
ZUGANG 03
WebIO
Gesonderte
Benutzeranmeldung
für den Zugriff
auf die webbasierte
Bedienoberfläche.
↓
Geschützte KI-Infrastruktur
Zwei lokal betriebene
NVIDIA DGX Spark
mit getrennten
Zugangsbereichen
und kontrollierter
Systemadministration.
Schematische Darstellung der
Zugangsbereiche.
Die Abbildung enthält
keine internen Benutzernamen,
Netzwerkinformationen
oder technischen
Schnittstellenkennungen.
VERSCHLÜSSELTE KOMMUNIKATION
SSH schützt Administration und JSON-Datenaustausch
Die Administration
unserer NVIDIA-DGX-Spark-Systeme
erfolgt über SSH
(Secure Shell).
SSH ermöglicht
verschlüsselte Verbindungen
für die sichere
Systemverwaltung.
Auch die strukturierte
JSON-Kommunikation
zwischen unserer
Mac-basierten KI-Prüfinstanz
und der DGX-Spark-Infrastruktur
erfolgt über einen
SSH-gesicherten
Kommunikationskanal.
Dadurch werden die
übertragenen Informationen
während der Kommunikation
durch die Verschlüsselung
des SSH-Protokolls geschützt.
Für die JSON-Kommunikation
wird ein eigenständiges
Benutzerkonto verwendet,
das vom Administrationszugang
getrennt ist.
Damit unterscheiden wir
zwischen dem technischen
Datenaustausch und
der Systemverwaltung.
Authentifizierung und Autorisierung
Authentifizierung überprüft,
ob ein Benutzer
die erforderliche
Identität nachweisen kann.
Autorisierung legt fest,
welche Funktionen
und Ressourcen
nach erfolgreicher
Anmeldung genutzt
werden dürfen.
Beide Mechanismen
erfüllen unterschiedliche
Sicherheitsaufgaben.
Prinzip der geringsten Berechtigung
Nach dem Least-Privilege-Prinzip
erhalten Benutzerkonten
nur diejenigen
Berechtigungen,
die für ihre
jeweiligen Aufgaben
erforderlich sind.
Die Trennung
unterschiedlicher
Benutzerkonten
schafft eine Grundlage
für eine solche
aufgabenbezogene
Rechtevergabe.
Geschützte Kommunikationswege
Verschlüsselte
Kommunikationsprotokolle
schützen Informationen
während ihrer Übertragung.
SSH bietet dafür
Mechanismen zur
Verschlüsselung,
Integritätssicherung
und Authentifizierung
der Verbindung.
Nachvollziehbarkeit und Protokollierung
Sicherheitsrelevante
Zugriffe und
administrative Vorgänge
sollten in einem
angemessenen Umfang
nachvollziehbar sein.
Eine geeignete
Protokollierung
unterstützt die
Untersuchung von
Sicherheitsvorfällen
und die Überprüfung
technischer Abläufe.
Dabei sind
Datenschutzanforderungen
und Speicherbegrenzungen
zu berücksichtigen.
KI & SICHERHEIT · EINGABEVERARBEITUNG
Manipulierte Eingaben. Ein zusätzliches Risiko für KI-Systeme.
KI-Systeme verarbeiten nicht nur
direkte Benutzeranfragen,
sondern häufig auch Informationen
aus Dokumenten, Datenbeständen
und anderen Quellen.
Solche Inhalte können
unbeabsichtigte Fehler
oder gezielt eingefügte
Anweisungen enthalten.
Deshalb ist es wichtig,
zwischen vertrauenswürdigen
Systemanweisungen und
zu analysierenden Informationen
zu unterscheiden.
Was bedeutet Prompt Injection?
Als Prompt Injection
bezeichnet man Versuche,
das Verhalten eines
KI-Systems durch
eingeschleuste Anweisungen
zu beeinflussen.
Solche Anweisungen
können beispielsweise
innerhalb eines Dokuments
enthalten sein.
Das Risiko entsteht,
wenn ein System
diese Inhalte
fälschlicherweise
als verbindliche
Handlungsanweisungen
behandelt.
Welche Schutzprinzipien sind wichtig?
Zu den grundlegenden
Schutzprinzipien gehören
die Trennung von
Daten und Anweisungen,
begrenzte Berechtigungen
und kontrollierte
Verarbeitungsschritte.
Besonders wichtig ist,
dass Inhalte aus
Dokumenten nicht
eigenständig
zusätzliche Systemrechte
erhalten können.
Technische Kontrollen
und fachliche Prüfungen
können das Risiko
weiter begrenzen.
Einordnung für Digitales Erbe
Unsere NVIDIA-DGX-Spark-Systeme
sind nicht direkt
von außen erreichbar.
Der Zugriff auf
unsere KI-Infrastruktur
erfordert eine
Benutzeranmeldung.
Zusätzlich verwenden wir
getrennte Benutzerzugänge
und SSH-gesicherte
Kommunikationswege.
Diese Maßnahmen reduzieren
die externe Angriffsfläche
unserer KI-Infrastruktur.
Bei der Verarbeitung
vorhandener Dokumente
und Informationen
berücksichtigen wir
zugleich, dass
deren Inhalte nicht
automatisch als
vertrauenswürdige
Systemanweisungen
behandelt werden dürfen.
Die fachliche Bewertung
der KI-Ergebnisse
bleibt Bestandteil
unserer Arbeitsweise.
KI & SICHERHEIT · QUALITÄTSSICHERUNG
KI überprüft KI. Zusätzliche Kontrolle durch eine unabhängige Prüfinstanz.
Generative KI-Systeme können
leistungsfähige Ergebnisse erzeugen.
Dennoch können Antworten
unvollständig, ungenau
oder sachlich fehlerhaft sein.
Deshalb setzen wir bei
Digitales Erbe auf eine
zusätzliche KI-gestützte
Qualitätskontrolle.
Eine eigenständig betriebene
lokale KI bewertet die Ergebnisse
unserer DGX-Spark-Infrastruktur
anhand definierter interner
Anforderungen.
Werden Abweichungen erkannt,
kann eine erneute Verarbeitung
mit einer überarbeiteten
Anfrage erfolgen.
Unsere KI-gestützte Validierungsarchitektur
Die folgende Darstellung
zeigt den grundlegenden
Prüf- und Feedbackprozess
unserer eigenen KI-Infrastruktur.
Die Kommunikation zwischen
den beteiligten Systemen
erfolgt über einen
SSH-gesicherten
Kommunikationsweg.
SCHRITT 01
Fachliche Anfrage
Eine unserer Anwendungen
stellt eine
fachliche Anfrage
zur KI-gestützten
Verarbeitung bereit.
↓
SCHRITT 02
Verarbeitung durch NVIDIA DGX Spark
Die lokale KI-Infrastruktur
verarbeitet die Anfrage
mithilfe geeigneter
KI-Modelle und
erzeugt ein Ergebnis.
↓
SSH-gesicherter JSON-Datenaustausch
Strukturierte Übertragung
von Anfragen und Ergebnissen
zwischen DGX-Spark-Infrastruktur
und Mac-Prüfinstanz
↓
SCHRITT 03
Unabhängige lokale Mac-KI
Eine zusätzliche
lokal betriebene KI
überprüft das Ergebnis
anhand eines
internen Regelwerks
und definierter
Erwartungen.
↓
Bewertung des Ergebnisses
Entspricht das Ergebnis
den festgelegten
Prüfkriterien
oder wurden
Abweichungen erkannt?
✓ Prüfkriterien erfüllt
Das Ergebnis kann
für die weitere
Verarbeitung
bereitgestellt werden.
Eine erforderliche
fachliche Prüfung
bleibt davon
unberührt.
↻ Abweichung erkannt
Die Mac-KI kann
eine korrigierte
Anfrage formulieren,
um eine erneute
Verarbeitung
anzustoßen.
↺ KI-gestützte Feedbackschleife
Die überarbeitete Anfrage
wird über den geschützten
Kommunikationsweg
an die DGX-Spark-Infrastruktur
zurückgegeben.
Das neue Ergebnis
kann anschließend
erneut von der
Mac-KI überprüft werden.
Schematische Darstellung
des bestehenden Prüfprozesses.
Das Diagramm zeigt
die wesentlichen Funktionen,
nicht die vollständige
interne Implementierung.
Eine positive KI-Prüfung
ist kein Nachweis
vollständiger Fehlerfreiheit.
Drei Ebenen der Qualitätssicherung
01 · MODELLVERARBEITUNG
Geeignete KI-Modelle
Unterschiedliche
KI-Modelle können
für verschiedene
Aufgaben eingesetzt werden.
Die Auswahl geeigneter
Modelle ist eine
wichtige Grundlage
für die Qualität
der erzeugten Ergebnisse.
02 · KI-PRÜFUNG
Zusätzliche Validierung
Unsere lokale
Mac-KI unterstützt
die Überprüfung
generierter Ergebnisse
anhand interner
Anforderungen.
Erkannte Abweichungen
können zu einer
überarbeiteten
Anfrage und
erneuten Verarbeitung
führen.
03 · FACHLICHE VERANTWORTUNG
Menschliche Bewertung
Die KI-gestützte
Qualitätskontrolle
unterstützt die
Verarbeitung.
Die erforderliche
rechtliche,
fachliche oder
sicherheitsbezogene
Bewertung verbleibt
bei den zuständigen
Fachpersonen.
SICHERHEIT · DIGITALES ERBE
Geschützte Kommunikation und getrennte Zugänge
Der JSON-Datenaustausch
zwischen unserer
Mac-Prüfinstanz und
der DGX-Spark-Infrastruktur
erfolgt über SSH.
Dadurch wird die
Kommunikation während
der Übertragung
verschlüsselt
und gegen
unbemerkte Veränderungen
geschützt.
Für den technischen
JSON-Datenaustausch
verwenden wir
einen eigenständigen
Benutzerzugang.
Dieser ist vom
Administrationszugang
getrennt.
Auch die webbasierte
Bedienoberfläche
erfordert eine
Benutzeranmeldung.
Unsere DGX-Spark-Systeme
sind nicht direkt
von außen erreichbar.
Die Betriebssysteme
werden regelmäßig
aktualisiert.
Ergänzend führen wir
Datensicherungen durch.
Diese Maßnahmen
unterstützen den
geschützten Betrieb
unserer KI-Infrastruktur.
Die KI-gestützte
Qualitätskontrolle
ergänzt diese
technischen Maßnahmen,
ersetzt jedoch
keine erforderliche
menschliche
Fachprüfung.
DIGITALES ERBE · VERANTWORTUNG & TRANSPARENZ
Eigene KI. Kontrollierte Infrastruktur. Verantwortung für Datenschutz und Sicherheit.
Der verantwortungsvolle Einsatz
künstlicher Intelligenz
erfordert ein Zusammenspiel
aus technischer Sicherheit,
datenschutzrechtlicher Bewertung
und fachlicher Kontrolle.
Bei Digitales Erbe verbinden wir
unsere eigene KI-Infrastruktur
mit langjähriger Erfahrung
im Datenschutz und
der Informationssicherheit.
Unser Ziel ist es,
leistungsfähige KI-Technologie
kontrolliert einzusetzen
und unsere Sicherheitsmaßnahmen
kontinuierlich weiterzuentwickeln.
01 · DATENHOHEIT
Eigene Infrastruktur statt
unkontrollierter Datenverarbeitung
Wir betreiben unsere
KI-Systeme auf eigener
lokaler Infrastruktur.
Dadurch können wir
wesentliche Entscheidungen
über die technische
Verarbeitungsumgebung,
eingesetzte Modelle
und Datenflüsse
selbst treffen.
Dies schafft eine Grundlage
für eine kontrollierte
Verarbeitung von Informationen.
02 · ZUGRIFFSSCHUTZ
Geschützte Zugänge
und getrennte Benutzerkonten
Unsere KI-Infrastruktur
verwendet getrennte
Benutzerzugänge
für unterschiedliche
Aufgabenbereiche.
Dazu gehören
Administration,
JSON-Datenaustausch
und der Zugriff
auf die webbasierte
Bedienoberfläche.
Ohne erfolgreiche
Benutzeranmeldung
ist kein regulärer
Zugriff auf die
entsprechenden
Funktionen möglich.
03 · BETRIEBSSICHERHEIT
Systempflege und Datensicherung
Unsere DGX-Spark-Systeme
sind nicht direkt
von außen erreichbar.
Die Administration
erfolgt über SSH.
Wir aktualisieren
die Betriebssysteme
regelmäßig und
führen Datensicherungen
durch.
Diese Maßnahmen
unterstützen den
geschützten und
zuverlässigen Betrieb
unserer KI-Infrastruktur.
04 · QUALITÄTSKONTROLLE
KI-gestützte Prüfung
und menschliche Verantwortung
Eine zusätzliche
lokale KI auf einem Mac
bewertet Ergebnisse
unserer DGX-Spark-Infrastruktur
anhand interner Vorgaben.
Bei erkannten Abweichungen
kann eine überarbeitete
Anfrage zur erneuten
Verarbeitung erstellt werden.
Die fachliche Verantwortung
verbleibt beim Menschen.
UNSERE TECHNISCHEN SCHUTZMASSNAHMEN
Sicherheit ist bei uns bereits umgesetzt.
Die folgenden Maßnahmen
sind Bestandteil
des bestehenden Betriebs
unserer KI-Infrastruktur.
✓
Eigene lokale KI-Infrastruktur
mit zwei NVIDIA DGX Spark
✓
Keine direkte externe
Erreichbarkeit der DGX-Spark-Systeme
✓
Kennwortgeschützter
Zugriff auf die Systeme
✓
Getrennte Benutzerkonten
für Administration
und JSON-Kommunikation
✓
Benutzeranmeldung für
die webbasierte Bedienoberfläche
✓
SSH-verschlüsselte
Administration und
JSON-Datenübertragung
✓
Regelmäßige Aktualisierung
der Betriebssysteme
✓
Regelmäßige Datensicherung
der KI-Infrastruktur
✓
Zusätzliche lokale
KI-Prüfinstanz auf einem Mac
✓
KI-gestützte Prüfung
und erneute Verarbeitung
bei erkannten Abweichungen
Sicherheit ist kein Zustand.
Sie ist eine dauerhafte Verantwortung.
Künstliche Intelligenz
entwickelt sich kontinuierlich weiter.
Neue Modelle,
zusätzliche Anwendungen
und veränderte technische
Anforderungen machen es
erforderlich,
bestehende Sicherheitsmaßnahmen
regelmäßig zu überprüfen
und bei Bedarf anzupassen.
Bei Digitales Erbe
betrachten wir Datenschutz
und Informationssicherheit
deshalb als wesentliche
Bestandteile unserer
eigenen KI-Entwicklung.
Unsere langjährige
Fachkompetenz verbindet sich
mit einer kontrollierten
technischen Infrastruktur
und einer zusätzlichen
KI-gestützten Qualitätsprüfung.
Unser Anspruch ist es,
die Möglichkeiten
künstlicher Intelligenz
verantwortungsvoll
einzusetzen,
ohne ihre technischen
Grenzen aus dem Blick
zu verlieren.
Transparenzhinweis zur Nutzung
künstlicher Intelligenz
Die auf dieser Webseite
verwendeten KI-generierten
Illustrationen wurden
mithilfe künstlicher
Intelligenz erstellt.
Die redaktionellen Inhalte
wurden KI-gestützt formuliert
und durch Digitales Erbe
fachlich geprüft sowie
redaktionell überarbeitet.
Der Einsatz künstlicher
Intelligenz dient
der Unterstützung
unserer redaktionellen Arbeit.
Die Verantwortung
für die veröffentlichten
Inhalte liegt
bei Digitales Erbe.
