Markt + Trends | IT-Sicherheit | iX

ChatGPT: Cyberkriminelle erstellen Angriffstools mit KI

Mit dem Hype um ChatGPTs fortgeschrittene Fähigkeiten spekulierten Sicherheitsexperten über den möglichen Missbrauch des KI-Werkzeugs durch Cyberkriminelle. Nun entdecken sie erste Fälle in der Praxis.

Ende des Jahres 2022 hatten Sicherheitsexperten von Check Point einen kompletten Infektionsablauf mit dem OpenAI-Werkzeug ChatGPT durchgeführt, um das Bedrohungspotenzial des Tools auszuloten. ChatGTP erzeugte dabei eine glaubwürdige Spear-Phishing-Mail und erstellte eine einfache Reverse Shell für Befehle in englischer Sprache. Die Experten fragten sich, ob die Bedrohung rein hypothetischer Natur sei oder ob es schon Akteure gebe, die die KI für ihre kriminellen Zwecke einsetzen (Details siehe ix.de/zwq6).

In digitalen Untergrundforen konnten Forscher von Check Point nun erste Fälle beobachten, in denen Kriminelle das OpenAI-Werkzeug dazu missbrauchten, Angriffscode zu entwickeln. Die Chats bestätigen die Vermutungen der Forscher: Etliche der Cyberkriminellen, die ChatGPT nutzen, haben keine Programmierkenntnisse. Die von Check Point entdeckten Tools sind zwar recht einfach, es dürfte allerdings nur eine Frage der Zeit sein, „bis raffiniertere Bedrohungsakteure die Art und Weise, wie sie KI-basierte Tools zum Schaden einsetzen können, verbessern“, mutmaßen die Experten.