KI-Empfehlungen: Personalisierung oder werbliche Beeinflussung?

Bei einem Hosting-Umzug zur Konsolidierung unserer Server traten auf einer unserer Websites unerwartete Fehler auf. Als wir ChatGPT das offenbar mit dem Hosting-Anbieter zusammenhängende Problem ausführlich schilderten, beschränkte sich die Antwort nicht auf technische Erklärungen: Sie enthielt auch eine negative Bewertung unseres bisherigen Anbieters sowie Empfehlungen für alternative Anbieter. Diese Erfahrung veranlasste uns, zu hinterfragen, wie technische Unterstützung unsere Kaufentscheidung beeinflussen kann. Aus einem Gespräch zur Problemlösung war eine Beratung geworden, die sich auf die Wahl eines Dienstleisters auswirken konnte.

Zunächst ist eine klare Unterscheidung erforderlich: Dass eine KI in ihrer Antwort eine Marke empfiehlt, bedeutet für sich genommen nicht, dass es sich um bezahlte Werbung handelt. Auch unser Erlebnis beweist weder, dass OpenAI Werbung ausspielt, noch, dass die Empfehlungen auf einer geschäftlichen Vereinbarung beruhen. Ebenso wenig können wir die negative Bewertung des bisherigen Anbieters als gesicherte technische Feststellung ansehen. Ein selbstsicherer Ton macht es nicht überflüssig, die Zuverlässigkeit der enthaltenen Vergleiche zu prüfen. Im Gegenteil: Ihre Begründungen müssen gesondert untersucht werden.

Um eine mögliche Personalisierung zu verstehen, müssen wir nicht davon ausgehen, dass die KI uns vollständig kennt. Die Begriffe, mit denen wir ein technisches Problem beschreiben, die Angaben zu unserer Infrastruktur und unsere genannten Erwartungen können Hinweise auf unseren Bedarf geben. Die Empfehlung könnte an diesen Gesprächskontext angepasst worden sein. Aus einer einzelnen Antwort lässt sich jedoch nicht ableiten, ob sie auf einem dauerhaften Nutzerprofil oder lediglich auf dem aktuellen Gespräch beruht. Eine passend erscheinende Antwort ist nicht dasselbe wie ein System, das über umfassende Informationen zu uns verfügt.

Entscheidend für die Bewertung sollte weniger sein, wie persönlich eine Empfehlung wirkt, sondern vielmehr, auf welchen Kriterien sie beruht. Bei der Hosting-Auswahl schaffen klar benannte Faktoren wie Kosten, technische Kompatibilität, Unterstützungsbedarf und Bedingungen für den Umzug einen Vergleichsrahmen. Anschließend sollte gefragt werden, weshalb die vorgeschlagenen Optionen als geeignet gelten, unter welchen Bedingungen sie ungeeignet wären und wie sich die Informationen überprüfen lassen. Statt eine Empfehlung direkt zu übernehmen, streben wir so eine überprüfbare Einschätzung an, die die Entscheidungsfindung unterstützt.

Für uns bei X Mind Solutions ergibt sich aus dieser Erfahrung vor allem die Frage, wie sich in KI-Lösungen für Unternehmen die Grenze zwischen Empfehlung und Beeinflussung sichtbar machen lässt. Kontextgerechte Empfehlungen können den Bewertungsprozess erleichtern. Werden jedoch Alternativen ausgeblendet oder Unsicherheiten nicht benannt, kann dies den Entscheidungsspielraum einschränken. Deshalb empfehlen wir Unternehmen, KI-gestützte Empfehlungen anhand ihrer Begründung, Überprüfbarkeit und der Kontrolle durch die Nutzer zu bewerten. Statt Vermutungen darüber anzustellen, ob Werbung vorliegt, ist es sinnvoller, zunächst die Grundlagen der Empfehlung zu hinterfragen.