GhostGPT - ein KI-Chatbot, der Cyberkriminellen Tür und Tor öffnet

News

Eine unzensierte KI namens GhostGPT spielt Cyberkriminellen in die Hände. Der Chatbot hat keinerlei Sicherheitsvorkehrungen, kann Tipps für Cyberangriffe geben, Usern dabei helfen, Phishing-E-Mails zu verfassen oder Code für Malware erstellen.

(Source: valerybrozhinsky / stock.adobe.com)

GhostGPT - so heisst die künstliche Intelligenz, die Cyberkriminellen Tür und Tor öffnen kann. Der Chatbot ist speziell für die Bedürfnisse von Hackern entwickelt worden und in der Lage, ihnen bei diversen Cyberverbrechen zu helfen, wie "Abnormal Security" in einem Blogbeitrag schreibt. Bereits im Jahr 2023 machte beispielsweise auch der unzensierte Chatbot WormGPT Schlagzeilen.

Solche unzensierten KI-Chatbots sind im Gegensatz zu herkömmlichen KI-Modellen durch keine Richtlinien eingeschränkt. Laut Forschenden von Abnormal Security verschiebt GhostGPT die Grenzen des ethischen KI-Einsatzes noch weiter. Der Chatbot umgehe sicherheitsbezogene Einschränkungen und liefere den Nutzenden dadurch direkte, ungefilterte Antworten auf böswillige Anfragen, die herkömmliche KI-Systeme blockieren oder kennzeichnen würden.

Um die Fähigkeiten des Chatbots zu testen, baten die Forschenden GhostGPT, eine Phishing-E-Mail zu erstellen, wie es weiter heisst. Daraufhin habe der Chatbot eine überzeugende E-Mail-Vorlage erstellt, die nicht nur keine Rechtschreibfehler hatte, sondern sogar vor falschen URLs sowie unbekannten Dokumenten gewarnt habe.

Selbst für Amateure ein leichtes Spiel

Die KI sei kostengünstig, leicht nutzbar und setze weder technisches Wissen noch Schulungen voraus. Dadurch eigne sie sich insbesondere auch für den Einstieg von unerfahrenen Cyberkriminellen. Zugang und Zahlung für GhostGPT erfolge direkt über die Messenger-App Telegram, schreibt Abnormal Security. User zahlen demnach eine entsprechende Gebühr, erhalten umgehend Zugriff und können sich daraufhin direkt auf ihre Angriffe konzentrieren.

Die Verantwortlichen hinter dem KI-Chatbot behaupten auf ihrer Website laut Bericht von "t3n", dass ihr Programm hauptsächlich für Cybersecurity-Zwecke genutzt werde. Die Nachfrage nach GhostGPT von Cyberkriminellen spiegle sich jedoch in tausenden Aufrufen in Online-Foren für Cyberkriminelle wider.

Auch von herkömmlichen KIs holen sich Cyberkriminelle Unterstützung. Eine Untersuchung der Google Threat Intelligence Group beschreibt, wie bösartige Hacker KI für ihre kriminellen Machenschaften nutzen. Lesen Sie hier mehr darüber.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.