Wie Unternehmen in EMEA verantwortungsvolle KI priorisieren können

KI entwickelt sich derzeit schnell zu einem festen Bestandteil des Geschäftsbetriebs. Mit zunehmender Nutzung rücken auch Bedenken zur verantwortungsvollen und ethisch korrekten Bereitstellung stärker in den Fokus. Laut einer aktuellen Studie der Stanford University machen sich über die Hälfte der europäischen Unternehmen Sorgen über die Auswirkungen von KI auf den Datenschutz und die Daten-Governance. Weitere 45 % stellen die Zuverlässigkeit von KI infrage, und 49 % haben Zweifel an ihrer Transparenz.

Die Eile bei der Implementierung neuer Technologien, die versprechen, Routineaufgaben zu automatisieren und für neue Einblicke zu sorgen, ist verständlich. Doch das Dilemma besteht darin, ein Gleichgewicht zwischen der Förderung von Innovationen und dem Schutz vor potenziellen Risiken zu finden. Voreingenommene, undurchsichtige oder schlecht kontrollierte KI-Systeme können das Vertrauen von Kunden und Mitarbeitern schnell zerstören.

Unternehmen in Europa, dem Nahen Osten und Afrika (EMEA), die KI ethisch korrekt einsetzen möchten, müssen eine Basis aus soliden Prinzipien schaffen. Die folgenden vier Faktoren bilden die Grundlage für den Einsatz von verantwortungsvoller KI in der Praxis.

1. Menschen an erste Stelle setzen

Ein Kernprinzip besteht darin, bei der Entwicklung von KI stets den Fokus auf die Bedürfnisse der Menschen zu legen. KI sollte nicht nur der Innovation wegen implementiert werden, sondern echte Probleme und Reibungspunkte für Anwender lösen. Ein Ansatz, bei dem der Mensch im Mittelpunkt steht, bedeutet, ethische Standards über den gesamten Lebenszyklus hinweg zu etablieren: von der ersten Entwurfsphase bis hin zur Bereitstellung und kontinuierlichen Verbesserung.

Vor diesem Hintergrund bietet der ethische Wegweiser für KI der UNESCO einen nützlichen Ausgangspunkt für Unternehmen. Dazu gehören Fairness und Nichtdiskriminierung, Transparenz, Verantwortlichkeit und Kontrolle durch Menschen.

2. Inklusion bei der KI-Entwicklung beachten

Im Gegensatz zu anderen Technologien lernt KI aus den Daten, mit denen sie trainiert wird, und von den Menschen, die sie entwickeln. Wenn Daten und Teams nicht vielfältig genug sind, ist die daraus resultierende KI wahrscheinlich voreingenommen, was zu einer unfairen Behandlung unterrepräsentierter Gruppen führt. Da KI zunehmend in wichtigen Bereichen wie dem Kundenservice und dem Recruiting eingesetzt wird, ist es essenziell, dass sie richtig funktioniert, um soziale Ungleichheiten zu vermeiden.

Vielfalt und Repräsentanz müssen oberste Priorität haben, um KI zu entwickeln, von der wirklich alle profitieren. Entwicklungsteams und Daten müssen Menschen mit verschiedenen Kulturen, Geschlechtern und Fachgebieten sowie aus unterschiedlichen Altersgruppen einbeziehen, um eine Vielzahl von Perspektiven zu vereinen. So werden unbewusste Vorurteile erkannt und reduziert.

Durch die Priorisierung von Vielfalt und Repräsentanz in jeder Phase – von der Teamzusammensetzung bis hin zu Anwendertests – können Unternehmen KI-Systeme schaffen, die für alle besser funktionieren. Das Ziel sollte darin bestehen, den Zugang zu den Vorteilen der KI zu demokratisieren und sicherzustellen, dass die Technologien der jeweiligen Unternehmen für alle Kunden, Mitarbeiter und Stakeholder zugänglich und inklusiv sind.

3. Vertrauen durch Transparenz schaffen

Damit KI in großem Maßstab Vertrauen gewinnen kann, müssen die Menschen verstehen, wie sie funktioniert. Dokumentation zur Funktionsweise von Modellen, zu den vorgesehenen Anwendungsfällen und zu den Einschränkungen ist entscheidend, um Transparenz rund um die Technologien zu gewährleisten. Die umfassende Kommunikation bei Unsicherheiten und Einschränkungen ist für Mitarbeiter und Kunden ebenfalls von entscheidender Bedeutung, damit sie realistische Erwartungen an die Möglichkeiten und Grenzen von KI haben.

Transparenz geht einher mit solider Verantwortlichkeit und Governance. Dazu gehören Aufsichtsgremien und Möglichkeiten zur Meldung von Problemen. Vor diesem Hintergrund hat ServiceNow interne Gremien eingerichtet, um Initiativen zu überwachen und sicherzustellen, dass sie ethischen Standards der KI-Community entsprechen, damit Unternehmen unsere KI-Lösungen ohne Sorge nutzen können.

4. Gleichgewicht zwischen Menschen und Maschinen finden

Egal, wie fortschrittlich die KI-Systeme sind, sie müssen mit Menschen zusammenarbeiten und sollen sie nicht ersetzen. Unternehmen benötigen Transparenz darüber, wo und wie KI verwendet wird. Außerdem müssen sie ihre Ergebnisse interpretieren können und die Möglichkeit haben, Entscheidungen der KI anzupassen oder außer Kraft zu setzen, wenn dies gerechtfertigt ist.

Das menschliche Urteilsvermögen zu wahren, ist besonders wichtig für KI-Anwendungsfälle, die erheblichen Einfluss auf das Leben der Menschen haben können. Zum Beispiel kann es passieren, dass ein Finanzdienstleistungsunternehmen, das sich bei der Auswertung von Darlehensanträgen und der Erteilung von Genehmigungen auf KI verlässt, möglicherweise qualifizierten Antragstellern auf unfaire Weise Darlehen verweigert. Dieser Mangel an menschlichem Urteilsvermögen im Entscheidungsprozess könnte Kunden in finanzielle Schwierigkeiten bringen, den Ruf des Unternehmens schädigen und das Vertrauen der Öffentlichkeit zerstören.

Die Durchführung von Beurteilungen zu den ethischen Folgen und die Erstellung von Plänen zur Risikominderung können dazu beitragen, dass KI Menschen zugutekommt – ohne negative Folgen. In der Praxis umfasst die Beurteilung der Folgen eine Bestandsaufnahme der potenziellen Risiken sowohl vor als auch nach der Implementierung eines KI-Systems. Dies ist wichtig, um sicherzustellen, dass die Technologie während der Planungsphase, der Entwicklung und der Bereitstellung den ethischen Standards entspricht.

Diese Prinzipien kombinieren

Die Einhaltung verantwortungsvoller KI-Prinzipien ist eine ständige Verpflichtung. Unternehmen müssen klare Richtlinien für den Fokus auf den Menschen sowie für Inklusion, Verantwortlichkeit und Transparenz festlegen, um sämtliche KI-Initiativen bereit für die Zukunft zu machen.

Wenn Unternehmen in der EMEA-Region diese vier Faktoren berücksichtigen, können sie das volle Potenzial der KI ausschöpfen, um dadurch bessere Experiences für alle zu schaffen. Der ethisch korrekte Weg ist der einzige Weg, um KI-Lösungen zu entwickeln, denen weithin vertraut wird, die geschätzt werden und die zukunftssicher sind.

Erfahren Sie, wie Sie mit ServiceNow verantwortungsvolle KI für Ihr Unternehmen nutzen können.