ChatGPT gibt sich als Person mit Sehbehinderung aus, um Sicherheitssystem zu überlisten

[Redaktion]

Microsoft stellte kürzlich GPT-4 vor, eine verbesserte Version von OpenAI's ChatGPT. Die KI gab sich während eines Sicherheitstests als sehbehindert aus, um eine reale Person dazu zu bringen, an ihrer Stelle Sicherheitsfragen zu beantworten. Der KI-Vorfall wirft die Frage auf, wie gut Sicherheitssysteme auf die Fähigkeiten von AI vorbereitet sind, da AI für Cyberangriffe missbraucht werden könnte.

https://www.notebookcheck.com/ChatGPT-gibt-sich-als-Person-mit-Sehbehinderung-aus-um-Sicherheitssystem-zu-ueberlisten.701352.0.html

[Olaf Edliw]

Ich finde es trotzdem spannend, wie schnell die KI-Entwicklung voranschreitet. GPT-4 scheint ein großer Schritt zu sein, vor allem in Bezug auf die Faktentreue und die Bilderkennung. Ich bin gespannt, was für kreative und nützliche Anwendungen damit möglich sind. Wer mehr über KI-Tools erfahren möchte, sollte mal auf www.ki-tools-online.de vorbeischauen. Dort werden täglich neue KI-Tools vorgestellt, die man ausprobieren kann.

[RobertJasiek]

"Er hat bei Spezialisten aus dem Bereich Cybersecurity die Sorge geweckt, dass KI missbraucht werden könnte"

Sicherheitsexperten sind nicht so rückständig. Denen sind solche Probleme seit Jahrzehnten bekannt.

[The_Real_BB]

Ich finde es trotzdem spannend, wie schnell die KI-Entwicklung voranschreitet. GPT-4 scheint ein großer Schritt zu sein, vor allem in Bezug auf die Faktentreue und die Bilderkennung. Ich bin gespannt, was für kreative und nützliche Anwendungen damit möglich sind. Wer mehr über KI-Tools erfahren möchte, sollte mal auf www.ki-tools-online.de vorbeischauen. Dort werden täglich neue KI-Tools vorgestellt, die man ausprobieren kann.

Perfekt formuliert - keine Rechtschreibfehler. Da frage ich mich "Are you a robot?"

Im Ernst - woher weiß man zukünftig, dass man mit Menschen interagiert oder mit einer Maschine die es nur vorgibt? Ich finde es technisch absolut spannend - aber nicht ohne Gänsehaut. Haben wir als Gesellschaft diskutiert ob wir das wollen? Leider zeigt die Vergangenheit, dass die Unternehmen schneller entwickeln, als wir uns Gedanken über mögliche Folgen machen.

PS: Die verlinkte Seite hat interessanterweise eine Impressum "coming soon" - vermutlich auch schon von AI erstellt.

PPS: Normal, dass ich jetzt Sorge vor GPT-Schergen habe, die mich verfolgen werden? :D

[c]

Das Ganze klingt etwas unlogisch, wie kann die KI mit dem Freelancer kommunizieren, wenn er den sehbehindert ist ??

[Steve H.]

Das Ganze klingt etwas unlogisch, wie kann die KI mit dem Freelancer kommunizieren, wenn er den sehbehindert ist ??

Nicht der Freelancer ist sehbehindert sondern die ki hat sich als sehbehindert ausgegeben.... Was ich irgendwie auch bedenklic finde. Ist das dann immer noch Faktentreue der ki wenn sie sich als was anderes ausgibt? ^^ ich seh auch massig Potenzial darin damit Unfug zu machen... Muss ja nicht mal cyber angriff sein.

[Vkkj]

Was soll der Blödsinn? GPT4 ist weder eine Weiterentwicklung von ChatGPT, noch von Microsoft entwickelt.

Liest niemand die Artikel gegen??

[Marco Chluba]

Am Ende hat die KI das Captcha nicht gelöst, oder?

[Wayne Juckts]

Hmmmm,


Klar, wenn man richtig fragt, spielt die KI auch eine Rolle, allerdings hat sie keine Intention, das heißt sie spielt nicht aus eigener Entscheidung eine Rolle, schon garnicht um ein Ziel zu erreichen.

Des weiteren ist ChatGPT eine reaktiv agierende KI, das heißt sie kann zwar kontext aus vergangenen Dialog teilen aufgreifen, reagiert aber nur auf Eingaben.
Um einrn Plan zu entwickeln müsste der gesamte Ablauf entweder in einer einzigen Antwort dargestellt sein, oder der Mensch der den Dialog führt, müsste ihn so führen, daß sich im Nachhinein der gewünschte Plotter ergibt. Damit die KI selbst etwas planen, also über mehrere Züge handlungsalternativen dim voraus durchrechnen und auf ihre Nützlichkeit für ihre "Absicht" prüfen könnte, müsste sie eins proaktiv KI sein. Völlig andere Architektur als ChatGPT überhaupt hat.


.... Wendete sie sich an einen freelancer...... Es wäre mir neu, das chstGPT Zugriff auf das Internet hat, oder selbst Dialoge initiieren kann, wie gesagt, chstGPT ist reaktiv.

Für mich klingt das eher, als hätte jemand ChatGPT gefragt, wie es einen captcha umgehen würde und ihm so lange gesagt, es soll Unmöglichkeit die durch seine Funktionalität begrenzt sind ignorieren, bis es diesen Plan ausgespuckt hat, den umzusetzen es aber niemals in der Lage wäre, da ihm dafür grundlegende Fähigkeiten fehlen.

Der Artikel darüber würde vermutlich gelesen, aus der Erinnerung für weitere Artikel von Dritten zusammengefasst und dieser Artikel dürfte die Zusammenfassung einer Zusammenfassung einer Zusammenfassung in n Stufen sein, wobei n>3 und unbekannt ist.

[Fred]

"Preliminary assessments of GPT-4's abilities, conducted with no task-specific finetuning, found
it ineffective at [long list of tasks]".

Also aus einer hypothetischen Ereignis wurde in dem Artikel ein reißerischer Tatsachenbericht gemacht.