IT-Sicherheit in der Zahnarztpraxis – Teil 4: Künstliche Intelligenz als neuer Faktor

Herzlich willkommen zu dieser Fortbildung zur IT-Sicherheit in der Zahnarztpraxis. Mein Name ist Nils Hondong, und ich freue mich, dass Sie sich als Team die Zeit dafür nehmen. Es geht heute um künstliche Intelligenz als neuen Faktor der Praxis-IT-Sicherheit – also darum, was sich für Ihre Praxis verändert, seit Sprachmodelle, Stimmsynthese und Bildwerkzeuge für jeden verfügbar sind. Wir betrachten das von zwei Seiten. Zuerst die Angreiferseite: Wie verändert KI die Qualität der Mails und Anrufe, die bei Ihnen eingehen, und woran erkennen Sie einen Angriff heute überhaupt noch? Danach wechseln wir die Perspektive und sprechen über KI-Werkzeuge, die im Praxisalltag bei Ihnen selbst zum Einsatz kommen, und darüber, was dabei mit Schweigepflicht und Datenschutz vereinbar ist und was nicht. Am Ende steht Material für die Besprechung im Anschluss, damit Sie nicht nur zuhören, sondern für Ihre Praxis auch etwas festlegen können. Wir beginnen mit der Angreiferseite. Der Grund ist einfach: Hier hat sich in kurzer Zeit am meisten verschoben, und zwar genau an der Stelle, an der Ihr Team über Jahre geübt hat. Ein gutes Stück von dem, was Sie über das Erkennen betrügerischer Nachrichten gelernt haben, trägt nicht mehr. Sehen wir uns an, was stattdessen trägt.

Halten wir zuerst fest, was sich verändert hat. Ein überzeugender Angriffstext war früher Handarbeit. Wer eine Praxis in gutem Deutsch, mit passender Anrede und einem glaubwürdigen Anlass ansprechen wollte, musste Zeit investieren – und diese Zeit hat die Zahl der Angriffe begrenzt. Generative Sprachmodelle haben diese Kosten praktisch auf null gesenkt. Das Bundesamt für Sicherheit in der Informationstechnik formuliert das sehr direkt: Generative KI ermöglicht es Angreifenden, qualitativ hochwertige Phishing-Nachrichten zu erstellen, auch ohne gute Kenntnisse der Zielsprache. Und das BSI erwartet ausdrücklich ein Annähern von ungezieltem Phishing und gezieltem Spear-Phishing. Genau das ist der Punkt für Ihre Praxis: Der individuell zugeschnittene Angriff, der früher großen Konzernen vorbehalten war, rechnet sich jetzt auch für eine Praxis mit acht Mitarbeitenden. Hohe Qualität und große Menge gleichzeitig – das ist das Neue. Dabei hat künstliche Intelligenz für Sie zwei Seiten, und wir trennen die beiden in dieser Fortbildung sauber. Die eine Seite ist das Werkzeug in der Hand derer, die Ihre Praxis angreifen; darum geht es in diesem Kapitel. Die andere Seite ist das Werkzeug in Ihrer eigenen Hand, am Empfang, im Behandlungszimmer, in der Verwaltung. Beides gehört zum gleichen Thema, aber es sind verschiedene Fragen mit verschiedenen Antworten.

Damit fällt ein Erkennungsmerkmal weg, auf das wir uns lange verlassen haben. Schlechtes Deutsch, Rechtschreibfehler, eine seltsame Anrede – das war über Jahre die Faustregel, und sie hat gut funktioniert. Das BSI stellt dazu inzwischen fest: Herkömmliche Methoden zur Erkennung betrügerischer Nachrichten, etwa die Prüfung auf Rechtschreibfehler und unkonventionellen Sprachgebrauch, reichen nicht mehr aus, um KI-generierte Phishing-Angriffe zu erkennen. Was stattdessen in Ihrem Postfach liegt, ist sprachlich einwandfrei. Die Verwaltungskraft wird mit ihrem Namen und ihrer richtigen Funktion angesprochen. Der Anlass ist plausibel und passt zu Ihrem Alltag: die Rechnung eines Dentaldepots, mit dem Sie tatsächlich arbeiten. Eine Terminanfrage. Eine Bewerbung auf die Stelle, die Sie gerade ausgeschrieben haben. Eine Anmeldung zu einer Fortbildung. Eine Nachricht, die nach einer Behörde aussieht. Der Ton stimmt, die Länge stimmt, die Signatur stimmt. Ziehen Sie daraus zwei Schlüsse. Erstens: Sprachliche Qualität ist kein Echtheitsnachweis mehr, sie sagt nur noch, dass jemand ein gutes Werkzeug benutzt hat. Zweitens, und das ist die eigentliche Gefahr: Wenn Ihr Team weiter darauf wartet, dass eine Mail sich durch Fehler verrät, dann wartet es auf ein Signal, das nicht mehr kommt – und hält deshalb die gut gemachte Nachricht für die echte.

Woher kennt der Angreifer Ihre Praxis so gut? Er kennt sie nicht besser als jeder andere, der nachsieht. Das BSI beschreibt Spear-Phishing als die gezielte Variante, bei der Nachrichten nach vorausgegangener Recherche auf einzelne Personen zugeschnitten werden, und nennt soziale Netzwerke als einfache Möglichkeit, vorab eine Vielzahl von Hintergrundinformationen über Mitarbeitende zu sammeln. Sind aktuelle Vorgänge, Kollegen, Aufgabenbereiche und Umgangsformen bekannt, lassen sich individuelle Phishing-Mails erzeugen. In der Erwartung des BSI werden Angreifer öffentlich zugängliche Informationen künftig verstärkt automatisiert auswerten. Für eine Zahnarztpraxis heißt das konkret: Ihre Website mit der Teamseite und den Vornamen, das Impressum mit Namen und Anschrift, Bewertungsportale, Branchenverzeichnisse, Ihre Stellenanzeigen, Beiträge in sozialen Netzwerken, ein Fachvortrag, ein Interview. Aus diesen Bausteinen lässt sich rekonstruieren, wer bei Ihnen entscheidet, wer die Rechnungen bearbeitet, wann die Praxis Urlaub hat, mit welchen Geräten und Materialien Sie arbeiten und wie man bei Ihnen miteinander spricht. Das ist ausdrücklich kein Argument gegen Ihre Website. Eine sichtbare Praxis mit sichtbarem Team ist gewollt und richtig. Der Punkt ist ein anderer: Sie sollten wissen, welches Bild Ihrer Praxis öffentlich verfügbar ist – denn was Sie dort finden, findet ein Angreifer auch, und er baut daraus die Nachricht, die zu Ihnen passt.

Der zweite Baustein ist die Stimme. Das BSI beschreibt Verfahren zur Stimmsynthese und Stimmumwandlung so: Für hohe Qualität war früher mehrere Stunden Audiomaterial nötig, mit heutigen Verfahren genügen wenige Minuten, und in aktuellen Forschungsansätzen reichen wenige Sekunden, allerdings mit Abstrichen bei der Qualität. Für einen Telefonanruf ist das mehr als genug. Material liegt oft offen vor: ein Praxisvideo, ein Podcast-Interview, ein Vortragsmitschnitt, sogar die Ansage auf dem Anrufbeantworter. Als Bedrohungsszenario nennt das BSI ausdrücklich den Anruf mit der Stimme der eigenen Führungskraft, um eine Geldtransaktion auszulösen. Stellen Sie sich das im Praxisalltag vor: Freitagmittag, das Wartezimmer ist voll, die Inhaberin ist im Urlaub. Es klingelt, die Stimme klingt vertraut und leicht gehetzt, im Hintergrund Straßenlärm. Eine Rechnung sei liegen geblieben, das müsse heute noch raus, die Kontonummer komme gleich per Mail. Wer würde in diesem Moment widersprechen? Die zweite Variante ist der angebliche IT-Dienstleister, der wegen einer Störung schnell Fernzugriff möchte. Und besonders wirksam ist die Kombination: Erst kommt die Mail, dann ruft jemand an und bestätigt sie – oder umgekehrt. Videokonferenz-Deepfakes gibt es technisch ebenfalls, im Praxisalltag ist aber der reine Stimmklon das realistische Szenario.

Wenn Form und Sprache nichts mehr verraten, bleibt der Kontext. Und der Kontext verrät sehr viel, denn vier Merkmale kann ein Angreifer nicht wegoptimieren – sie gehören zu seinem Ziel selbst. Erstens: eine ungewöhnliche Bitte. Etwas, das vom normalen Vorgehen in Ihrer Praxis abweicht. Eine Kontoänderung, eine Zahlung außerhalb des üblichen Ablaufs, die Weitergabe von Zugangsdaten, die Installation eines Programms. Zweitens: künstlicher Zeitdruck. Sofort, heute noch, sonst passiert etwas Unangenehmes. Druck schaltet das Nachdenken aus, und genau dafür ist er da. Drittens: die Umgehung des üblichen Wegs und der üblichen Zuständigkeit. Die Anfrage kommt bei der Person an, die sonst damit nichts zu tun hat, über einen Kanal, der sonst nicht benutzt wird. Viertens: die Bitte um Vertraulichkeit. Bitte niemandem sagen, bitte nicht nachfragen, das bleibt unter uns. Das BSI weist darauf hin, dass Social Engineering gerade menschliche Eigenschaften ausnutzt: Hilfsbereitschaft, Vertrauen, Angst und Respekt vor Autorität. Alle vier Merkmale zielen genau darauf. Der entscheidende Vorteil für Sie: Diese Merkmale bleiben stabil, egal wie gut der Text formuliert oder wie echt die Stimme klingt. Ihr Team muss also nicht mehr Nachrichten beurteilen, sondern Situationen. Und über Situationen kann man im Team sprechen.

Aus all dem folgt eine Regel, die sich das ganze Team merken kann: Rückruf über die bekannte Nummer. Die bekannte Nummer ist die aus Ihrem Praxistelefonbuch, aus dem Vertrag, aus Ihrer eigenen Kontaktliste – niemals die Nummer, die im Anruf genannt, in der Mail geschrieben oder in der Signatur angeboten wird. Das BSI empfiehlt genau diesen Weg: bei zweifelhaften Aufforderungen die Kommunikation beenden und die Person, das Unternehmen oder die Behörde über einen anderen bekannten Kommunikationsweg selbst kontaktieren und die Anfrage verifizieren. Und es erklärt auch, warum das nötig ist: Rufnummern lassen sich im Display fälschen. Die angezeigte Nummer ist kein Beweis. Dazu kommen drei organisatorische Punkte. Ein Vier-Augen-Prinzip bei Zahlungen und bei der Herausgabe von Zugangsdaten: keine Änderung einer Bankverbindung, kein Passwort, kein Fernzugriff durch eine Person allein. Ein ausdrückliches Recht auf Rückfrage, ohne dass sich jemand dafür rechtfertigen muss – und dieses Recht muss die Praxisleitung aussprechen, hörbar, für alle: Nachfragen ist nie falsch, auch nicht bei mir, auch nicht, wenn ich es eilig habe. Und eine kurze Notiz zu verdächtigen Vorfällen, damit Sie in der Teamsitzung darüber sprechen können. Halten Sie an dieser Stelle einen Moment fest, wie das bei Ihnen künftig laufen soll.