Der Deutsche Ethikrat empfiehlt, beim Einsatz von künstlicher Intelligenz (KI) die Verantwortung des Menschen zu stärken. Bei einer Pressekonferenz präsentierte der Rat eine Stellungnahme zu der Frage, welche ethischen Bedenken es bei der Nutzung von KI geben kann. Die Vorsitzende Alena Buyx sagt: „Der Einsatz von KI muss menschliche Entfaltung erweitern und darf sie nicht vermindern. KI darf den Menschen nicht ersetzen.“ Das seien die grundlegenden Regeln für die ethische Bewertung. Mit seinen Überlegungen berät der Ethikrat den Bundestag und die Bundesregierung. Bezüglich KI kann das genau jetzt besonders spannend sein, da mit dem AI Act aktuell eine europaweite Gesetzgebung für die Regulierung von KI diskutiert wird.

Die Mitglieder des Ethikrates haben sich die Bereiche Medizin, schulische Bildung, öffentliche Kommunikation und Meinungsbildung sowie öffentliche Verwaltung genauer angesehen. In der Medizin wird KI jetzt schon bei Diagnostik und Therapie eingesetzt. Sie sollte allerdings Ärztinnen und Ärzte nicht komplett ersetzen, so Buyx – auch nicht aus Gründen des Personalmangels. In der schulischen Bildung könnten KI-basierte Tutorsysteme Schülerinnen und Schülern mit unterschiedlichem Lernstand weiterhelfen. Kontrovers diskutiert wurden jedoch mögliche Videoaufnahmen im Klassenzimmer zur Aufmerksamkeitserkennung. Während einige Mitglieder des Ethikrates dies als eine Option nicht ausschließen, sind andere grundsätzlich dagegen.

Mehr zum Thema

 

Kölner Start-up

Deutschlands heimlicher KI-Gigant aus Köln-Ehrenfeld

 

Erweiterung der Office-Programme

Softwarekonzern Microsoft bringt künstliche Intelligenz ins Büro

 

Der neue Wettstreit der Techgiganten

ChatGPT, Bard, LLAMA und Co.: Was können die KI-Chatbots?

Ethikrat empfiehlt europäische Twitter-Alternative

Für die öffentliche Kommunikation und Meinungsbildung empfiehlt der Ethikrat, die Gründung einer europäischen digitalen Infrastruktur zu erwägen, quasi eine Twitter-Alternative, die sich nach EU-Standards richtet. „Cambridge Analytica hat gezeigt, dass soziale Netzwerke Wahlen beeinflussen. Deshalb müssen wir in diesem Bereich groß und kreativ denken“, sagt Buyx. Das Argument, dass man ohnehin nicht gegen die Konkurrenz aus den USA ankäme, sollte nicht davon abhalten, es zu versuchen.

Im Bereich der öffentlichen Verwaltung kann KI helfen, Entscheidungen zu treffen - beispielsweise darüber, wer welche Sozialleistungen erhält. „Es ist jedoch nicht erwiesen, dass KI-Systeme wirklich bessere Entscheidungen treffen“, sagt Judith Simon, Sprecherin der AG Mensch und Maschine des Deutschen Ethikrates. Da KI auf bestehenden Daten beruht, könnten gesellschaftliche Ungleichheiten reproduziert und dabei in ein scheinbar neutrales System eingebettet werden.

Die Textmaschine ChatGPT: Ist die KI der mächtige Vorbote einer neuen Zeit?

Hausaufgaben auf Knopfdruck? Ein Gedicht per Mausklick? Der mächtige Sprachroboter ChatGPT macht es möglich – mit künstlicher Intelligenz. Was ist Geistesarbeit noch wert?

Jetzt mit RND+ lesen

Künstliche Intelligenz soll Menschen nicht die Verantwortung nehmen

Gemeinsam haben alle Bereiche, dass Menschen keine Kompetenzen verlieren sollen, sondern weiterhin Verantwortung tragen. Laut dem Ethikrat sollte Diskriminierung vermieden werden und Standards für Privatsphäre festgelegt werden. Dabei sollen alle beteiligten Akteure mit einbezogen werden. „Wenn ein Unternehmen beispielsweise ein KI-basiertes System zum Vorsortieren von Bewerbungen nutzt, entlastet das den Menschen in der Personalabteilung, kann aber für Bewerber nachteilig sein“, sagt Simon. Es komme daher immer auf den Kontext an.

Aktuell stammen viele erfolgreiche KI-Systeme aus den USA oder China. „Im Moment hat eine Handvoll Unternehmen eine Monopolstellung“, sagt Buyx. Sie sieht in Europa aber auch Entwicklungspotenzial.

Hauptstadt-Radar

Der Newsletter mit persönlichen Eindrücken und Hintergründen aus dem Regierungsviertel. Immer dienstags, donnerstags und samstags.

Abonnieren

Mit meiner Anmeldung zum Newsletter stimme ich der Werbevereinbarung zu.

Diskussion um AI Act verunsichert Unternehmen

Eine ähnliche Beobachtung macht auch Merle Uhl vom Bitkom-Verband. „Künstliche Intelligenz wird alle Wirtschaftsbereiche transformieren. Wenn wir in der Forschung mit dabei sind, aber nicht die Umsetzung mitgestalten, ist das für Deutschland als Wirtschaftsstandort dramatisch“, sagt die Bereichsleiterin für künstliche Intelligenz gegenüber dem RedaktionsNetzwerk Deutschland (RND). Ein Hebel zur Förderung von KI wäre mehr Klarheit im rechtlichen Raum. „Viele Unternehmen sehen, wie der AI Act diskutiert wird, und sind verunsichert. Deutschland sollte sich dafür einsetzen, dass nur risikoreiche Anwendungen reguliert werden und die Regeln möglichst gut umsetzbar sind“, sagt sie.

Was genau der Ethikrat für den rechtlichen Rahmen empfiehlt, ist in einer knapp 300 Seiten langen Stellungnahme niedergeschrieben. „Wem das zu lang ist, der kann es sich von Chat GPT zusammenfassen lassen“, sagt Buyx und lächelt dabei.