Rechtliche Risiken beim Einsatz von Chatbots
You, Robot
Unternehmen setzen zunehmend Chatbots ein, etwa zur Anbahnung von Verträgen. Das wirft juristische Fragen auf, insbesondere in Bezug auf die zugrunde liegende Willenserklärung.
Bereits 1966 entwickelte der Informatik-Pionier Joseph Weizenbaum mit dem Computerprogramm ELIZA eine frühe erste Version eines textbasierten Dialogsystems, das das Chatten mit einem technischen System erlaubte – die Geburtsstunde der Chatbots. Doch es dauerte weitere 60 Jahre, bis Chatbots technisch so weit fortgeschritten waren, dass sie auch massenmarkttauglich eingesetzt werden konnten.
Heute können die Nutzer dank derartiger Systeme kaum noch erkennen, ob sie mit einem Menschen oder einem Computerprogramm kommunizieren. Infolgedessen übernehmen immer mehr Chatbots die Kommunikation mit dem Kunden, ohne dass der Gesetzgeber ausdrückliche Regelungen für den Einsatz derartiger Chatbots bereithält.
Chatbots als Vertragspartner?
Chatbots werden unter anderem von Unternehmen zur Anbahnung und zum Abschluss von Verträgen eingesetzt. Doch kann ein Chatbot für ein Unternehmen überhaupt rechtsverbindlich eine auf den Abschluss eines Vertrags gerichtete Willenserklärung abgeben? Dies erscheint auf den ersten Blick zweifelhaft. Denn es gibt in einem solchen Fall kein realer Mensch die Erklärung ab, keine „natürliche Person“, wie es im Gesetz heißt, sondern lediglich ein Computerprogramm.
Doch zumindest für automatisiert agierende Chatbots, bei denen die Willenserklärungen nach vordefinierten Einstellungen des Systembetreibers erzeugt werden, besteht in der Rechtsprechung und Rechtswissenschaft weitestgehend Einigkeit darüber, dass dieser Unterschied letztlich unerheblich genug ist, sodass man die Erklärung des Chatbots dem Unternehmen zurechnen kann. Aus diesem Grund werden derartige Erklärungen regelmäßig als gesetzlich nicht ausdrücklich geregelte Computererklärungen behandelt, die dem Unternehmer zugerechnet werden und für ihn rechtlich bindend sein sollen.
Der für eine rechtswirksame Willenserklärung erforderliche Handlungswille liegt bei einer Computererklärung zwar zum Zeitpunkt der Erzeugung nicht vor, ist aber aufgrund des gestreckten, arbeitsteiligen Erklärungsprozesses bereits in der Inbetriebnahme des Chatbots durch den Unternehmer zu sehen. Und auch das Vorliegen der übrigen Anforderungen an eine rechtsverbindliche Willenserklärung – Erklärungsbewusstsein und Geschäftswille – vermochten die Juristen für Computererklärungen geschickt zu konstruieren: Zwar fehlt dem Unternehmer zum Zeitpunkt der Erzeugung der Willenserklärung durch den Chatbot aufgrund der Automation ein konkretes Erklärungsbewusstsein und ein konkreter Geschäftswille, doch beruhen eingesetzte Chatbots letztlich immer auf dem Willen des menschlichen Betreibers, sodass beide Voraussetzungen insgesamt erfüllt sind.
Automatisiert versus autonom
Seine Grenzen erfährt das Konstrukt der Computererklärung jedoch bei autonom agierenden Chatbots. Im Unterschied zu automatisierten Chatbots entscheiden diese auf der Grundlage eines selbstlernenden Algorithmus. Es handelt sich insofern um einen Anwendungsfall von künstlicher Intelligenz, bei dem der Betreiber des Chatbots keinen direkten Einfluss mehr auf die Ergebnisse des Algorithmus hat und die getroffenen Entscheidungen in der Regel noch nicht einmal nachprüfen kann.