5 Ansätze für mehr Vertrauen in die generative KI
Katie Schmidt, Senior Manager of AI/Machine Learning User Experience Research, hat an diesem Blog-Beitrag mitgearbeitet.
Jahrelange Forschung zur Benutzer-Experience (User Experience, UX) sowie Kunden-Feedback haben gezeigt, dass Vertrauen essenziell für den KI-Erfolg ist. Mit generativer KI (Generative AI, GenAI) ist Vertrauen wichtiger denn je.
Bei ServiceNow wissen wir, dass GenAI-Funktionen Vertrauen bei allen Personas erweckt – von Administratoren, die sie aufsetzen, über Entwickler, die CodeAssist verwenden, bis hin zu Mitarbeitern, die sie verwenden, um manuelle Routineaufgaben zu beseitigen, und anfordernden Personen, die schnelle Lösungen für ihre Probleme suchen.
Beispielsweise verwenden Mitarbeiter die Now Platform, um die Tickets von anfordernden Personen zu bearbeiten. GenAI-Funktionen bieten erhebliche Vorteile für Mitarbeiter, um produktiver zu arbeiten und monotone Routineaufgaben (die oft zu einer hohen Fluktuation führen) zu reduzieren.
Niemand möchte sich bei der Arbeit ausschließlich mit frustrierten, wütenden Menschen herumschlagen oder stumpf Informationen aus einem Wissensartikel in einen Chat kopieren, weil der Kunde nicht das gefunden hat, wonach er sucht. GenAI hat das Potenzial, Mitarbeitern bei bedeutenderer Arbeit zu helfen.
Wir machen das möglich, indem wir erweiterte Anwendungsfälle für GenAI in allen Workflows ermöglichen. GenAI, unsere neuen Lösung für die Fallzusammenfassung, fasst automatisch IT-, HR- und Kundenfall-Informationen zusammen, um die Lösungszeiten zu beschleunigen, manuelle Prozesse zu reduzieren und die Mitarbeiterproduktivität zu steigern.
Menschen im Mittelpunkt
Trotz der vielen Vorteile steht GenAI auch für steigende Besorgnis in Bezug auf Sicherheit, Regulierungen, Datenzugriff, Datenschutz und Kosten, sowie die übermäßige Abhängigkeit von KI anstelle kritischer menschlicher Überwachung.
Deshalb ist es unerlässlich, dass wir unsere Produkte anhand von menschenorientierten und verantwortungsvollen KI-Richtlinien entwerfen und entwickeln. Die Priorisierung der menschlichen Experience wird für die erwünschten GenAI-Auswirkungen unter den Mitarbeitern und Kunden der Unternehmen sorgen.
KI sollte die Art und Weise, wie Menschen arbeiten, verbessern und optimieren, aber nicht vollständig automatisieren oder die Menschen ersetzen. Basierend auf UX-Forschung, die wir zum Thema GenAI durchgeführt haben, haben wir fünf Ansätze entwickelt, um Mensch und KI zu verknüpfen. Diese spielen alle in das größere Ziel, Vertrauen und ein Gefühl von Kontrolle zu vermitteln, hinein.
1. Erklärbarkeit
Gehen Sie davon aus, dass Menschen aufgrund der KI verunsichert sind. Verwalten Sie die Erwartungen, erklären Sie Konzepte und Begriffe, und verwenden Sie Experiences, die den Menschen, wo möglich, vertraut sind. Sie müssen Vorhersagen der KI verstehen und interpretieren können, insbesondere im Kontext ihrer Arbeit, wo sie für den Output verantwortlich sind. KI sollte nicht wie „Magie“ erscheinen.
2. Transparenz
Im Großen und Ganzen sind Mitarbeiter offen dafür, die KI bei der Arbeit zu testen. Doch sie möchten auch wissen, wann KI die Quelle ist. Seien Sie transparent bei der Nutzung von KI. Die Benutzer müssen verstehen, was die KI tut und wieso, und wann sie nötig ist. Die Benutzer sollten verstehen, wie sie funktioniert (z. B. Datenquellen).
3. Feedback-Fähigkeit
Menschen verstehen, dass die KI nicht perfekt ist. Doch es ist wichtig, dass sie ihre genauen Grenzen kennen. So behalten die Menschen die Kontrolle, können Feedback geben und den Output der GenAI auf Genauigkeit überprüfen. Bieten Sie ihnen die Möglichkeit, die KI und ihre Vorhersagen stummzuschalten, zu verdeutlichen oder umzuleiten. Ermöglichen Sie es, die KI zu stoppen oder ihre Aktionen ohne (größere) Beeinträchtigungen umzukehren.
4. Onboarding und Selbstsicherheit
Ihre KI-Strategie sollte Onboarding umfassen, da Change-Management benötigt wird. Ein paar Funktionen für das Onboarding und die Selbstsicherheit sind eventuell schon im Produkt enthalten, doch das Unternehmen, das neue UX anbietet, muss die Erwartungen festlegen und Schritte einleiten, damit sich alle daran anpassen können. Die Unternehmen sollten sich auf schnelle Gewinne fokussieren, um früh einen Mehrwert zu sehen.
5. Unterschiedliche Benutzerakzeptanz
Während unserer KI-Journey bei ServiceNow haben wir gesehen, wie sich die Zufriedenheit, Akzeptanz und das Vertrauen in die KI entwickelt hat. Mehr Menschen in verschiedenen Positionen und Branchen können die Vorteile von GenAI nutzen, doch sie müssen schon früh ihren Wert erkennen.
Seien Sie sich bewusst, dass die Menschen mit unterschiedlichen Denkweisen, Charakteristiken, Glaubenssätzen und Nutzungsbereitschaft an die KI herangehen, insbesondere wenn es um die Arbeit oder das Privatleben geht.
Bei ServiceNow stehen die Menschen immer im Mittelpunkt. GenAI ist da keine Ausnahme. Wir engagieren uns dafür, gemeinsam mit unseren Kunden zu lernen und zu wachsen, und menschenorientierte Best Practices für die KI bereitzustellen, die das Vertrauen in die KI und die Zukunft stärken.
ServiceNow CEO Bill McDermott sagt: „Vertrauen ist die ultimative menschliche Währung. Hart erkämpft, schnell verloren.” Wir stellen sicher, dass unsere KI-Produkte weiterhin helfen, dieses Vertrauen aufzubauen, Schritt für Schritt.
Hier finden Sie mehr Informationen zur generativen KI von ServiceNow.