Vor wenigen Jahren wirkten viele Diskussionen über künstliche Intelligenz, digitale Identitäten und Desinformation noch wie Zukunftsszenarien (lesen Sie auch unseren Artikel von 2021). Man sprach über manipulierte Bilder, Fake-News und automatisierte Bots. Heute erscheinen auf sozialen Netzwerken vollständig künstliche Persönlichkeiten, die Musik veröffentlichen, Interviews geben und emotionale Reaktionen auslösen. Figuren wie Tilly Norwood zeigen, wie weit diese Entwicklung inzwischen fortgeschritten ist.

Dabei ist wichtig, eines klarzustellen: Desinformation ist kein neues Phänomen. Schon lange vor künstlicher Intelligenz wurden Bilder retuschiert, Tonaufnahmen manipuliert und Videos gezielt zusammengeschnitten. Propaganda existiert seit Jahrhunderten. Auch digitale Fotomanipulation gibt es bereits seit Jahrzehnten. Der Unterschied liegt nicht darin, dassmanipuliert wird. Der Unterschied liegt in Geschwindigkeit, Skalierung und Zugänglichkeit.

Früher benötigte professionelle Manipulation erhebliche Ressourcen. Man brauchte Studios, Spezialsoftware, Fachwissen und viel Zeit. Außerdem waren Fälschungen häufig erkennbar. Bildfehler, unnatürliche Schatten, unsaubere Übergänge oder Tonprobleme verrieten oft die Bearbeitung. Selbst gute Manipulationen waren aufwendig und teuer.

Heute verändert generative KI diese Situation grundlegend. Bilder können innerhalb von Sekunden erzeugt werden. Stimmen lassen sich imitieren. Videos entstehen künstlich. Ganze Persönlichkeiten wirken glaubwürdig, obwohl die reale Person möglicherweise gar nicht existiert. Entscheidend ist dabei nicht nur die technische Qualität, sondern die emotionale Wirkung. Menschen reagieren auf Gesichter, Stimmen und Geschichten – unabhängig davon, ob hinter der digitalen Figur ein echter Mensch steht.

Dennoch wäre es falsch zu behaupten, dass solche Projekte bereits vollständig automatisiert funktionieren. Eine glaubwürdige virtuelle Persönlichkeit wie Tilly Norwood entsteht nicht per Knopfdruck. Dahinter stehen weiterhin Menschen mit erheblichem Know-how: Videoeditoren, Sounddesigner, KI-Spezialisten, Autoren und Kreative. Besonders schwierig ist die Konsistenz. Eine künstliche Person muss über viele Videos hinweg gleich aussehen, dieselbe Stimme behalten, natürlich wirken und emotional glaubwürdig bleiben. Das erfordert derzeit noch technisches Wissen und Erfahrung.

KI-Ist es echt, oder durch KI manipuliert?

Doch genau darin liegt möglicherweise der entscheidende Wendepunkt. Die Geschichte digitaler Technologien zeigt ein wiederkehrendes Muster: Was anfangs Expertenwissen erfordert, wird mit jeder Generation einfacher, schneller und günstiger. Bildbearbeitung, Videoschnitt oder Musikproduktion waren einst hochspezialisierte Disziplinen. Heute können Millionen Menschen diese Werkzeuge alltäglich nutzen. Es spricht wenig dafür, dass die Entwicklung bei KI anders verlaufen wird.

Damit verändern sich auch die Risiken. Besonders im Bereich der Desinformation und Cyberkriminalität könnten die Folgen erheblich sein. Bereits heute professionalisieren sich Phishing-Angriffe durch KI. Texte wirken glaubwürdiger, individueller und sprachlich fehlerfrei. Stimmen können imitiert werden. Gesichter und Videobotschaften lassen sich synthetisch erzeugen. Gleichzeitig helfen KI-Systeme dabei, Softwarefehler oder Schwachstellen schneller zu erkennen. Künftig könnten Angriffe automatisierter, präziser und schwerer erkennbar werden.

Hinzu kommt ein weiteres Problem: Social Engineering wird durch KI erheblich einfacher. Viele Menschen unterschätzen, wie wertvoll persönliche Informationen im Internet geworden sind. Bereits heute reichen oft wenige öffentlich sichtbare Daten aus, um glaubwürdige Täuschungen aufzubauen. Fotos, Sprachaufnahmen, Familieninformationen, Arbeitgeber, Hobbys oder Aufenthaltsorte können kombiniert und missbraucht werden.

Wer regelmäßig private Inhalte veröffentlicht, liefert potenziellen Angreifern häufig unbeabsichtigt das Rohmaterial für Manipulationen. Aus einzelnen Bildern lassen sich Stimmen trainieren, Gesichter analysieren oder persönliche Beziehungen nachvollziehen. Selbst scheinbar harmlose Informationen können in Kombination gefährlich werden. Ein öffentlich gepostetes Urlaubsfoto, ein sichtbares Namensschild im Hintergrund oder eine Erwähnung von Familienmitgliedern können später Teil gezielter Betrugsversuche sein.

Gerade deshalb wird digitale Vorsicht künftig wichtiger. Die Frage lautet nicht nur, welche Daten Unternehmen über uns sammeln, sondern auch, welche Informationen wir freiwillig selbst veröffentlichen. Viele Nutzer denken beim Posten eines Bildes nicht darüber nach, dass dieses möglicherweise dauerhaft gespeichert, analysiert und automatisiert weiterverarbeitet wird.

Das eigentliche Problem besteht dabei nicht nur in einzelnen Falschinformationen. Gefährlich wird die Entwicklung dann, wenn Vertrauen als gesellschaftliche Grundlage schwindet. Jahrzehntelang galt ein Foto als Beweis. Später wurde das Video zum scheinbar sicheren Nachweis von Realität. Doch wenn Bilder, Stimmen und Videos beliebig generierbar werden, verändert sich unser Verhältnis zur digitalen Welt grundlegend.

Vielleicht erleben wir gerade das Ende einer Epoche, in der digitale Inhalte automatisch als glaubwürdig betrachtet wurden.

Gleichzeitig wäre es jedoch falsch, nur in Angst oder Alarmismus zu verfallen. Technologische Entwicklungen verschwinden nicht, nur weil man sie ablehnt. Künstliche Intelligenz wird sich weiterentwickeln – unabhängig davon, ob einzelne Menschen oder Unternehmen dies begrüßen oder kritisieren. Die entscheidende Frage lautet daher nicht, wie man die Entwicklung vollständig stoppen kann. Die entscheidende Frage lautet, wie Gesellschaften lernen, verantwortungsvoll damit umzugehen.

KI – nicht entgegenstellen, sondern zu lernen, wie man es nutzt. Wenn ein Sturm aufkommt, macht es Sinn surfen zu lernen.

Eine passende Metapher dafür ist ein herannahender Taifun. Wenn ein gewaltiger Sturm auf uns zukommt, besteht die Lösung nicht darin, den Wind aufhalten zu wollen. Die sinnvollere Strategie besteht darin, surfen zu lernen.

Übertragen auf KI bedeutet das: Menschen müssen lernen, digitale Inhalte kritischer zu hinterfragen. Medienkompetenz, technische Bildung und Sicherheitsbewusstsein werden wichtiger denn je. Unternehmen benötigen stärkere Schutzmechanismen gegen Social Engineering und KI-gestützte Angriffe. Staaten und Plattformen müssen über Verifikationssysteme, Kennzeichnungspflichten und digitale Authentizität nachdenken. Gleichzeitig wird sich vermutlich ein neues gesellschaftliches Prinzip etablieren: digitales Misstrauen als Normalzustand.

Das klingt zunächst negativ, könnte langfristig aber auch zu einer bewussteren Nutzung digitaler Medien führen. Vielleicht werden wir lernen müssen, Informationen wieder stärker zu prüfen, Quellen sorgfältiger zu bewerten und digitale Inhalte nicht automatisch als Realität zu akzeptieren.

Figuren wie Tilly Norwood sind deshalb möglicherweise weniger eine technische Spielerei als vielmehr ein Symbol für einen historischen Übergang. Nicht weil künstliche Manipulation neu wäre. Sondern weil künstliche Identitäten erstmals massentauglich, emotional glaubwürdig und gesellschaftlich relevant geworden sind.

Die Frage ist heute nicht mehr, ob künstliche digitale Persönlichkeiten entstehen werden. Die eigentliche Frage lautet: Werden wir künftig überhaupt noch zuverlässig erkennen können, ob hinter einer digitalen Identität ein echter Mensch steht?

Wie bei jeder Technologie entscheidet letztlich der Mensch darüber, ob sie sinnvoll oder missbräuchlich eingesetzt wird. Auch wir beschäftigen uns intensiv mit künstlicher Intelligenz und nutzen sie gezielt zur Unterstützung – etwa für Bildgestaltung, Textoptimierung und sprachliche Erweiterungen. Dabei setzen wir bewusst auf lokale KI-Lösungen, da wir nicht möchten, dass fremde KI-Modelle unsere Inhalte, Daten oder Arbeitsweisen analysieren. Für uns bedeutet verantwortungsvoller KI-Einsatz nicht blindes Vertrauen, sondern bewusste Kontrolle über die eigenen Informationen.