SHOW / EPISODE

KI-Forscher und -Unternehmer warnen vor existenziellen Risiken durch AI - Wie gefährlich sind KIs oder könnten es werden? | "KI und Mensch" | Folge 10, Teil 1

1h 5m | Jun 1, 2023

Die dunkle Seite der KI: Risiken, Kritik und die Zukunft der Technologie


Willkommen zur neuesten Episode unseres Podcasts, in der wir uns intensiv mit dem Thema "Künstliche Intelligenz und das Risiko des Untergangs" beschäftigen. In dieser Folge diskutieren wir eine Reihe von Quellen und Perspektiven, die sowohl die potenziellen Risiken als auch die Kritik an diesen Warnungen beleuchten.


Wir beginnen mit einem Blick auf die Erklärung von www.safe.ai zum Risiko der KI und berichten über Warnungen von Branchenführern, die in der New York Times und anderen Medien aufgegriffen und disktutiert wurden. Eine Studie der Universität Oxford liefert eine düstere Antwort auf die Frage, ob künstliche Intelligenz das Ende der Menschheit bedeuten könnte, während Kritiker diese Warnungen als übertrieben betrachten.


Wir werden auch die aktuellen Risiken diskutieren, die in dem Artikel "On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?" (2021) aufgeführt sind, einschließlich der Verstärkung von Vorurteilen und Stereotypen, der Generierung von beleidigender Sprache und der Ausnutzung durch böswillige Akteure.


Darüber hinaus werden wir den Energieverbrauch von KI und die Auswirkungen auf die Nachhaltigkeit betrachten, basierend auf einem Artikel von www.zdnet.com. Wir werden auch die Wahrscheinlichkeit des Untergangs durch KI (auch genannt p(Doom) / x-risk) diskutieren, die auf Foren oder Artikeln unter anderem im Time Magazine behandelt werden.


Schließlich werden wir die Ansichten verschiedener Experten wie Eliezer Yudkowsky, Yoshua Bengio, Max Tegmark und Geoffrey Hinton beleuchten, die ihre Gedanken und Bedenken zur KI und ihrem Potenzial für Risiken geäußert haben.


Wir hoffen, dass diese Episode Ihnen einen umfassenden Überblick über das aktuelle Gespräch rund um KI und Risiken bietet und freuen uns auf Ihre Gedanken und Fragen zu diesem wichtigen Thema. Bleiben Sie dran!



Link-Liste für Teil 1:


https://www.safe.ai/statement-on-ai-risk

https://www.nytimes.com/2023/05/30/technology/ai-threat-warning.html


https://www.swr.de/wissen/experten-warnen-vor-ausloeschung-der-menschheit-durch-ki-100.html


Oxford Studie: https://www.fr.de/wissen/ki-kuenstliche-intelligenz-ende-menschheit-oxford-studie-liefert-duestere-antwort-91821912.html



Kritik:

https://www.tagesspiegel.de/politik/umweltfolgen-durch-kunstliche-intelligenz-gravierend-forscherin-aus-oxford-kritisiert-ausloschungs-warnung-9911783.html

https://theconversation.com/if-were-going-to-label-ai-an-extinction-risk-we-need-to-clarify-how-it-could-happen-206738



Aktuelle Risiken:

On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? (2021)

https://dl.acm.org/doi/pdf/10.1145/3442188.3445922


Energy-Consumption: https://www.zdnet.com/home-and-office/sustainability/this-new-aws-tool-shows-customers-the-carbon-footprint-of-their-cloud-computing-usage/


p(Doom) / x-risk: https://forum.effectivealtruism.org/posts/THogLaytmj3n8oGbD/p-doom-or-agi-is-high-why-the-default-outcome-of-agi-is-doom


https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/

Eliezer Yudkowsky https://twitter.com/ESYudkowsky


Yoshua Bengio https://www.bbc.co.uk/news/technology-65760449

Max Tegmark:

https://www.channel4.com/news/ai-extinction-threat-is-going-mainstream-says-max-tegmark

https://time.com/6273743/thinking-that-could-doom-us-with-ai/

Geoffrey Hinton: https://www.nytimes.com/2023/05/30/podcasts/the-daily/chatgpt-hinton-ai.html


Weitere Stimmen:

https://twitter.com/abacaj/status/1664237098633658368

https://twitter.com/ylecun

https://twitter.com/tdietterich/status/1663602549130432512

https://twitter.com/GaryMarcus/status/1664124885009068032?s=20

https://twitter.com/chrmanning/status/1663920862439915524



Experts survey: https://aiimpacts.org/2022-expert-survey-on-progress-in-ai/



Folgt uns auf:


Twitter: https://twitter.com/KIundMensch

Twitch: https://www.twitch.tv/kiundmensch

Youtube: https://www.youtube.com/@kiundmensch

KI und Mensch
Loading...