Zusammenfassung
Immer mehr digitale Anwendungen kommen auf den Markt, die zum Ziel haben, Menschen im Alltag emotional zu unterstützen und zu beraten. Unter digitalen sozialen Agenten versteht man KI-gestützte Chatbots, die textliche und/ oder visuelle Inhalte für Gespräche mit Anwender:innen produzieren. Auf der einen Seite können solche Anwendungen die mentale und emotionale Gesundheit der Nutzer:innen stärken, ärmeren Bevölkerungsgruppen den Zugang zu psychologischer Unterstützung erleichtern und gegebenenfalls psychologische Behandlungen im Alltag unterstützen. Auf der anderen Seite besteht die Gefahr der Abhängigkeit, der langfristigen Verstärkung von Einsamkeit und des Verlusts zwischenmenschlicher Kompetenzen. Ob ein dialogorientierter KI-Chatbot eher die Fähigkeiten der Nutzenden stärkt, Beziehungen zu anderen Menschen aufzubauen, oder Einsamkeit eher noch verstärkt, hängt unter anderem maßgeblich von der Gestaltung und dem Diskurs über KI ab.
Intelligente Soziale Agenten gegen Einsamkeit? / PDF, 332 KB
Monitoring November 2024 / PDF, 4 MB
Das Monitoring wird erstellt vom Institut für Technikfolgen-Abschätzung der Österreichischen Akademie der Wissenschaften (ITA-ÖAW) im Auftrag des österreichischen Parlaments.