Chancen nutzen und Risiken im Auge behalten

Datensicherheit bei KI

Datensicherheit bildet das Herzstück beim Einsatz von KI. Viele Sicherheitsprinzipien der allgemeinen Digitalisierung sind auch auf KI-Technologien anwendbar. Ein besonders kritischer Punkt ist der Schutz sensibler, personenbezogener Daten in Einklang mit der Datenschutz-Grundverordnung (DSGVO). Da KI-Systeme häufig auf externe Rechenkapazitäten angewiesen sind, muss die Datenverarbeitung außerhalb des eigenen Unternehmens sorgfältig geregelt werden.

Neben der Wachsamkeit gegenüber klassischen Cyberangriffsmethoden wie Phishing und Schadprogrammen, die durch den Einsatz von KI an Gefährlichkeit gewinnen können, müssen auch neue Herausforderungen berücksichtigt werden. Besonders dann, wenn KI genutzt wird, um Unternehmensprozesse zu automatisieren und zu optimieren, können die KI-Systeme über ungesicherte Schnittstellen verfügen, die von Angreifern als Einfalltor genutzt werden, um Unternehmensdaten abzugreifen oder Schadprogramme zu installieren.

Ethische Überlegungen

Wie jedes Werkzeug kann KI für gute und schlechte Zwecke eingesetzt werden. Durch die Komplexität von KI sind diese ethischen Faktoren vielfältiger und erfordern von Anwendern ein noch höheres Verantwortungsbewusstsein. Ein Risiko steckt bereits in den Trainingsdaten: diese können voreingenommen oder teilweise falsch sein, was im Nachhinein zu einer fehlerhaften oder unerwünschten Funktionsweise der KI führen kann. Hier gilt: die Ergebnisse sind nur so gut, wie die Eingabedaten auf den sie basieren.

KI eignet sich gut für bestimmte Kommunikationsaufgaben. Hier kann KI z. B. den Kundenservice verbessern oder als Tutor agieren und individuelle Lernpläne erstellen und begleiten. KI kann aber auch für die massenhafte Verbreitung falscher Informationen per Mail oder über soziale Medien genutzt werden. Die böswilligen Akteure in der Welt bleiben die gleichen, sie sind jetzt aber in der Lage, sich klarer und professioneller auszudrücken. Es ist daher in der Online-Kommunikation wichtig, genau hinzusehen, ob die Person, mit der man gerade in Kontakt steht, wirklich diejenige ist, für die sie sich ausgibt.

Praktische Leitlinien für sichere ­KI-Anwendung

Einige Aspekte im Umgang mit künstlicher Intelligenz liegen weniger in der Hand eines Einzelnen, sondern sind Fragen, die wir uns als Gesellschaft stellen müssen. Wie so oft in unserer Geschichte ist die Technologie nun einmal vorhanden und sie wird sich kontinuierlich und immer schneller weiterentwickeln. Anstatt uns also davor zu verschließen, ist es an der Zeit, das Beste daraus zu machen.

Obwohl jede Sicherheitsstrategie individuell auf das jeweilige Unternehmen zugeschnitten sein sollte, gibt es grundlegende Maßnahmen und Regeln, die als Orientierung dienen können.

KI kann nicht losgelöst von der restlichen IT-Umgebung betrachtet werden. Eine solide Absicherung dieser Systeme ist also das Fundament, auf dem auch das weitere Schutzkonzept zur KI-Integration aufgebaut werden muss. Darüber hinaus müssen drei zentrale Bereiche geschützt werden: die Daten, die Modelle und deren Nutzung.

Die Integrität und Sicherheit der Daten – sowohl der Arbeits- als auch der Trainingsdaten – sind ausschlaggebend für die Effizienz der KI. Neben dem Schutz vor Diebstahl gilt es die Datenintegrität gegenüber Manipulationen zu wahren, um zu verhindern, dass trainierte Modelle schädliches Verhalten zeigen oder ineffizient arbeiten. Eingeschränkte Zugangsrechte und solide Verschlüsselung sind hier essentielle Maßnahmen, um Risiken mindern.

Die KI-Modelle selbst stellen ein potentielles Sicherheitsrisiko dar. Vor allem wenn sie, wie es aufgrund der Komplexität des Trainings üblich ist, von externen Quellen bezogen werden. Die Herkunft der Modelle muss sorgfältig geprüft werden, um die Einschleusung infizierter oder manipulierter Modelle zu verhindern. Die Sicherheit der Schnittstellen, die KI-Werkzeuge mit dem Unternehmen verbinden, ist ebenfalls kritisch. Zugriffs- und Handlungsrechte sollten streng limitiert werden, um im Problemfall das Gesamtsystem zu schützen.

Die Transparenz der Trainingsdaten durch den Dienstleister ist entscheidend, um Urheberrechtsverletzungen zu vermeiden. Obwohl die Rechtslage noch hinter der technologischen Entwicklung hinterherhinkt, ist besondere Vorsicht bei generativen Modellen geboten, deren Outputs urheberrechtlich schwer nachzuverfolgen sein können.

Bei der Nutzung besteht durch sogenannte Prompt-Injektionen die Gefahr, dass Angreifer auf dem Zielsystem Schadcode ausführen oder Daten extrahieren. Dies kann zur Datensammlung oder zum Nachbauen spezialisierter Modelle missbraucht werden.

Zudem muss mit Denial-of-Service-Angriffen gerechnet werden, die das System durch eine Überflutung mit Anfragen lahmlegen. Bei extern gehosteten Modellen können so auch schnell finanzielle Schäden entstehen, wenn die Rechenleistung nach Verbrauch abgerechnet wird. Eine kontinuierliche Überwachung der Netzwerk- und Modellaktivitäten ist daher unerlässlich, um ungewöhnliche Muster oder missbräuchliche Anfragen frühzeitig zu erkennen.

Schließlich bleibt der Mensch das zentrale Element des Unternehmens – auch und vor allem bei der Nutzung von KI-Technologien. Er ist als Kontrollinstanz in KI-gesteuerten Prozessen daher unumgänglich. Umso wichtiger sind Sensibilisierung, Schulung und Weiterbildung der Mitarbeitenden für KI-Technologien und deren Anwendung. Durch passende Fortbildungsmaßnahmen können die Möglichkeiten und Grenzen der KI ins Bewusstsein gerückt werden, um den Umgang mit den Systemen zu vereinfachen und einen verantwortungsvollen Umgang damit zu gewährleisten. Ein Regelwerk für die Arbeit mit KI im Unternehmen im Zusammenspiel mit einer klaren und offenen Kommunikation ist der Schlüssel dazu. Ungereimtheiten und Probleme in den KI-Workflows können auf diese Weise schnell gefunden und gelöst werden.

Blick nach vorn: die Zukunft der KI im Handwerk

Mit dem Abschluss unserer dreiteiligen Serie zum Thema Künstliche Intelligenz (KI) im Handwerkskontext blicken wir auf eine Technologie, die sich rasant weiterentwickelt und schon bald neue, innovative Konzepte hervorbringen wird. Diese Entwicklungen haben das Potenzial, unsere Arbeits- und Lebensweise grundlegend zu verändern. Ein spannender nächster Schritt sind Modelle, die nicht nur natürliche Sprache verstehen, sondern auch die Intention hinter der Interaktion eines Menschen mit einem Computer erfassen können. Diese sogenannten Large Action Modelle könnten den Umgang mit komplexen Systemen noch intuitiver gestalten.

Dennoch ist es wichtig, dass wir dieser fortschreitenden Entwicklung mit offenen Augen begegnen. Wir müssen die Chancen, die sie bietet, erkennen und nutzen, ohne dabei die potenziellen Risiken aus den Augen zu verlieren. Durch eine gemeinsame Betrachtung von Möglichkeiten und Gefahren können wir die KI als wertvolles Werkzeug in unser berufliches und privates Leben integrieren.