ChatGPT soll gestoppt werden - Elon Musk, Stability AI, Steve Wozniak und 1000 weitere Tech-Leader unterzeichnen Petition gegen die KI

[Redaktion]

ChatGPT von OpenAI soll pausiert werden. Laut Elon Musk, Leiter von Tesla, Twitter und SpaceX, sowie dem CEO von Stability AI und Hersteller des KI-Bildgenerators Stable Diffusion der mit Amazon zusammenarbeitet, aber auch dem Apple-Mitbegründer Steve Wozniak schreite die Entwicklung von Sprachmodellen wie GPT-4 viel zu schnell voran. Künstliche Intelligenz sei außer Kontrolle geraten und die Risiken für die Menschheit seien nicht absehbar, so eine neue Petition, die von hochrangigen Tech-Leadern unterschrieben wurde.

https://www.notebookcheck.com/ChatGPT-soll-gestoppt-werden-Elon-Musk-Stability-AI-Steve-Wozniak-und-1000-weitere-Tech-Leader-unterzeichnen-Petition-gegen-die-KI.704382.0.html

[Heinzelmann]

Für 6 Monate pausieren?

Klingt für mich eher nach "Bitte bremst das ganze mal ein bisschen bis unsere Entwicklungsabteilungen aufgeschlossen haben, wir wollen schließlich auch was vom großen Kuchen abbekommen"

[RobertJasiek]

Die Ziele der Petition sind ehrenwert, aber 6 Monate dienen nur dazu, die Konkurrenz aufholen zu lassen. Vielmehr wäre ein zeitlich vorerst unbegrenztes Moratorium sinnvoll, bis a) die Politik in allen Staaten der Welt die Gesetzgebung menschheitsgerecht angepasst haben wird und b) dazu semantische mathematische und prozedurale Beweise erbracht sein werden. Wenn auch nur ein Staat, eine Organisation oder ein Mensch in der Welt KI absichtlich oder versehentlich mit autonomer physischer Replikation austattet, bedarf es keiner Waffen, um die Menschheit auszulöschen. Dagegen ist reine Software-KI relativ harmlos, selbst wenn sie alle Menschen arbeitslos macht.

[Chatter]

Rein oberflächlich gesehen scheint die Initiative gut zu sein.
Aber die, wer dort im Boot sitzt, glaube ich dem ganzen Boot nicht.

[Erwin Fuchs]

Rein oberflächlich gesehen scheint die Initiative gut zu sein.
Aber die, wer dort im Boot sitzt, glaube ich dem ganzen Boot nicht.

D
Schlimmer als der Mensch kann die künstliche Intelligenz auch nicht Sein

[TC]

Pandora's Einwegdose

[Fixi Hartmann]

Das ist nicht die Angst vor der KI sondern die Angst den Anschluss gegenüber der Konkurrenz zu verlieren. Wenn man überlegt was da mit Twitter los ist, ist Elon gewiss nicht die Person bei der man sich in der Art einen Rat einholen sollte. Und Wozniak ist auch mittlerweile nicht mehr als ein Maskottchen.

[1]

some delusion!
"technological leaders" are afraid of progress?
progress is "too fast" for them?
The letter was definitely written by "technological leaders" and not some "Mormons"?

[arschbanane]

Sicherlich wird eine Petition amerikanischer CEO´s bei z.B. den Chinesen auf viel Gehör stoßen ... nicht. Die werden sich die Hände reiben und freuen, dass man ihnen ein weiteres Monopol bereitwillig zuspielt.
KI kommt und ist z.T. schon da. Man wird es nicht verhindern können - sollte es aber regulieren. Dafür braucht es spezialisierte staatliche Behörden, Förderung für Forschungsinstitute und jede Menge Öffentlichkeitsarbeit. Nur so kann es gehen. Ein "verbietet es!" wird uns nur noch mehr schaden.

[isi]

Die Menschen haben immer bedenken gegenüber neue Erfindungen gehabt, bei der Erfindung des Zugs , des Autos , Flugzeuge , Computers, usw.

Bedenken wir aber das diese Technologien heute gar nicht mehr heute weg zu denken sind, das wir Menschen uns so daran gewöhnt haben, das wir die Menschen uns es gar nicht mehr vorstellen wollen ohne sie fort zu fahren.

Ich bin kein kluger Kopf, aber hier in dem Fall , an die klugen Köpfe,"unser Geschichte lehrt uns das scheitern aber auch den Erfolg".

Also nicht die Ai oder Ki ist schlecht, sondern, es kommt darauf an für was sie der Mensch nutzt , gut oder böse ?, Wie bekanntlich birgt jeder neue Erfindung gutes und böses, je nach dem für was Mann sie nutzt.

Meiner Meinung nach ist das ein großer Schritt nach vorne.

[depp]

ihr wohl alle sehr helle
Ich bin selber Entwickler und teile die Meinung dieser Petition voll und ganz.

Eigentlich hatte ich gehofft das es noch so lange dauert bis das Quanten Computing funktioniert und ich das somit sicher nicht mehr erleben muss... Aber so wie es aussieht braucht es doch nicht so viel rechenleistung um eine unkontrollierbare software zu erschaffen.

ps.. die youtube ki ist schon länger ausser kontrolle..

[RobertJasiek]

Also nicht die Ai oder Ki ist schlecht, sondern, es kommt darauf an für was sie der Mensch nutzt

So einfach kann man nicht mehr argumentieren. Seit der Atombombe gibt es Erfindungen, die die Menschheit in ihrer Existenz bedrohen. KI gekoppelt mit physischem Zugriff durch die KI ist so eine anstehende Erfindung. Dabei kommt es auch nicht mehr auf die Nutzung durch den Menschen an, sondern auf die Wahrung der Kontrolle des Menschen über die KI. Selbständige KI ist ähnlich Viren: man kann sie nicht abschaffen. Sie kann aber beliebig schlimmer als Viren sein, weil sie viel lernfähiger, flexibler und auf mehr Energie / Ressourcen (bis hin zur chemischen Energie von Gestein und Metall) zugreifend werden kann. Die Frage, ob solche planetenfressenden KI-Lebensformen gut oder schlecht sind, stellt sich gar nicht mehr, sondern die letzte aus menschlicher Sicht ethische Frage wird sein, ob es die Menschheit zulässt, dass so mächtige KI entsteht.

[Jemand]

Das ist nicht die Angst vor der KI sondern die Angst den Anschluss gegenüber der Konkurrenz zu verlieren. Wenn man überlegt was da mit Twitter los ist, ist Elon gewiss nicht die Person bei der man sich in der Art einen Rat einholen sollte. Und Wozniak ist auch mittlerweile nicht mehr als ein Maskottchen.

Du hast keine Ahnung wovon du redest.

[Ekaf]

Die Sorge ist berechtigt. Wenn jemand böswilligen Code einspeist, oder auch nur zufällig eine Konstellation entsteht bei der Schaden angerichtet werden soll, dann kann die Software gezielt nach Schwachstellen in Betriebssystemen suchen und das gleichzeitig auf Milliarden Systemen, notfalls nach dem try and error Prinzip. Hat es erstmal Zugang können Daten gelöscht und Attacken ausgeführt werden. Auf einigen Systemen ist es möglich einen Virus bis in die Bootsektoren zu schreiben. Selbst wenn man eine Attacke abwehrt geht der ganze Terror wieder von vorn los, sobald ein komprimiertes System wieder ans Netz geht.

[Ekaf]

Rein oberflächlich gesehen scheint die Initiative gut zu sein.
Aber die, wer dort im Boot sitzt, glaube ich dem ganzen Boot nicht.

D
Schlimmer als der Mensch kann die künstliche Intelligenz auch nicht Sein

Menschen kannst du festnehmen und dazu zwingen den Quellcode herauszugeben. Eine sich möglicherweise selbst anpassende Software wäre nicht auszumerzen, ähnlich eines echte Virus, wie z.B. der Grippe.