KI bei Splunk: Vertrauenswürdige Grundsätze für digitale Resilienz

Es besteht kein Zweifel daran: KI wird vieles radikal verändern – unser Leben, unsere Arbeit und wie mir miteinander interagieren. Sie wird neue Möglichkeiten für die Lösung geschäftlicher Herausforderungen und beträchtliche Kundenvorteile bieten, muss jedoch aufgrund ihrer weitreichenden Auswirkungen ganzheitlich betrachtet werden. Die verantwortungsvolle Entwicklung von KI ist eine Sache, aber Vertrauen in jeden Aspekt der KI-Strategie einzubetten, ist noch einmal etwas ganz anderes – und genau darauf zielt Splunk ab.

Als Innovator in den Bereichen Daten und KI musste Splunk schon immer Antworten auf schwierige Fragen wie die folgenden finden: Wie schützen wir in diesen unsicheren Zeiten unsere Kunden und Mitarbeiter? Wie können wir mit KI digitale Resilienz stärken, statt sie zu untergraben? Um diese Fragen zu beantworten, mussten wir uns zunächst einen allgemeinen Überblick verschaffen und überlegen, wie sich die KI auf unsere Kunden, Mitarbeiter, Partner und das gesamte Ökosystem auswirken würde.

Als Marktführer im Bereich Sicherheit und Observability ist Splunk bestens aufgestellt, um seine Kunden beim wertschöpfenden Einsatz von KI zu unterstützen und sie gleichzeitig vor unbeabsichtigten Folgen zu schützen. Mit unserem fundierten Engagement für die Schaffung einer sicheren und resilienten digitalen Welt können wir durch einen gewissenhaften Umgang mit KI wirklich etwas bewirken. 

Vertrauenswürdige KI-Grundsätze von Splunk im Überblick

Auf der Grundlage eines stringenten Prozesses, bei dem Splunk-Stakeholder eingebunden und neue Vorschriften bewertet wurden, werden diese Grundsätze künftig als Leitlinie für unsere KI-Nutzung und -Entwicklung fungieren. Wir glauben, dass KI folgenden Grundsätzen unterliegen sollte:

Verantwortlichkeit 

Der Mensch als Gestalter. KI-Systeme sollten von Menschen überwacht werden, und die zuständigen Mitarbeiter in den unterschiedlichen Lebenszyklusphasen von KI-Systemen sollten identifizierbar und für die Ergebnisse verantwortlich sein. 

Transparenz 

Glaskasten-Ansatz. KI-Systeme und die Datennutzung sollten für Kunden und Stakeholder erklärbar, transparent und verständlich sein.

Datenschutz 

Datenvertrauen. KI-Systeme sollten auf den Respekt der Privatsphäre Einzelner und die Vertraulichkeit von personenbezogenen und Unternehmensdaten ausgelegt sein.

Fairness 

Institutionell unvoreingenommen. KI-Systeme sollten inklusiv und zugänglich sein und Diskriminierung oder Voreingenommenheit (Bias) vermeiden.

Resilienz

Widerstandsfähig von Anfang an. Schon bei der Entwicklung und Bereitstellung von KI-Systemen ist auf Sicherheit und Resilienz zu achten, selbst bei unbeabsichtigten Ausfällen und böswilligen Angriffen.

Wie wir vertrauenswürdige KI-Grundsätze umsetzen 

Splunk hat ein Framework entwickelt, um unsere Grundsätze auf Unternehmensebene in die Tat umzusetzen.

Indem wir unsere Grundsätze in konkrete Handlungen umsetzen, erfüllen wir unser Versprechen, richtige Entscheidungen zu treffen, Vertrauen aufzubauen und die gewünschten Ergebnisse zu erzielen. Wir gehen davon aus, dass wir mit fortschreitender Umsetzung Anpassungen vornehmen müssen, um neuen Entwicklungen in der KI-Technologie und Gesetzgebung Rechnung zu tragen. Wir haben kontinuierliches Lernen und kontinuierliche Entwicklung in unser Framework integriert, um neuen Technologien und Gesetzen immer einen Schritt voraus zu sein.

KI in Produkten. Bei der Integration von KI in unsere Produkte verfolgen wir einen gut durchdachten und zielgerichteten Ansatz. Unsere KI-Produktphilosophie stützt sich auf drei grundlegende Konzepte: 

• Domänen- und Splunk-spezifisch: Unserer Auffassung nach sorgen KI-Lösungen am effektivsten für digitale Resilienz, wenn sie domänenspezifisch für Security- und Observability-Anwendungsfälle und eng in Workflows eingebunden sind. So können die richtigen Informationen zur richtigen Zeit mit dem richtigen Kontext abgerufen werden.
• Human-in-the-Loop: Die KI wird den Menschen nicht gänzlich ersetzen, sondern sollte gewissermaßen als Copilot mit ihm zusammenarbeiten, um schnelle Fakten zu liefern, Events zusammenzufassen und Warnmeldungen mit hoher Priorität hervorzuheben. Am Steuer sollte jedoch immer der Mensch sitzen.
• Offen und erweiterbar: Da wir planen, mehr KI direkt in die Splunk-Plattform zu integrieren, geben wir Kunden und Partnern die Möglichkeit, unsere Modelle entsprechend ihren Richtlinien und ihrer Risikotoleranz zu erweitern oder eigene Modelle einzubringen. Diese Modelle können mit Daten in Splunk und anderen Datenspeichern verwendet werden und stellen daher flexible Lösungen dar.

KI im Geschäftsbetrieb. Vertrauenswürdige KI im Geschäftsbetrieb und in der Unternehmenskultur ist ebenso wichtig wie vertrauenswürdige KI in Produkten – und erstreckt sich gleichermaßen auf Technologie, Mitarbeiter und Prozesse. Wir wollen intern von den geschäftlichen Vorteilen der KI profitieren, erkennen jedoch auch deren potenzielle Risiken. 

Die KI versteht nichts von Inklusivität – wir aber schon. Mit unserem KI-Ansatz tragen wir Problemen wie Bias und Ungenauigkeiten Rechnung und kommunizieren diese, um sie proaktiv angehen zu können. Unserer Meinung nach gilt es, künftig klare Leitlinien vorzugeben, die den Mitarbeitern ein intelligenteres Arbeiten ermöglichen. Unser umfassender Ansatz fördert Innovation und Transformation – mit verantwortungsvoller KI-Nutzung als Priorität. 

Im Großen und Ganzen basiert unsere KI-Richtlinie auf vertrauenswürdigen KI-Grundsätzen und spiegelt Elemente unserer Produktphilosophie wider. Die KI soll Splunker unterstützen, nicht ihre Aufgaben übernehmen.

Datennutzung und -schutz für KI: Datenadministration (oder Data Stewardship) ist unabdingbar, insbesondere im Zeitalter der KI. Wir engagieren uns bereits seit vielen Jahren für Datennutzung und -schutz, doch für die spezifischen Datenschutz-Herausforderungen im Zusammenhang mit KI hat Splunk einen Ausschuss auf Vorstandsebene eingerichtet, das Cybersecurity & Data Responsibility Committee.

Unser Engagement für Sicherheit hat sich ausgezahlt. Neun Jahre in Folge wurden wir im Gartner Magic Quadrant für SIEM als Leader eingestuft. Wir werden auch künftig auf unserer 20-jährigen Erfahrung aufbauen und unser Engagement auf Datenschutz für alle KI-Anwendungsfälle ausweiten, um den Anforderungen der nächsten 20 Jahre und darüber hinaus gewachsen zu sein.

Führungsposition von KI (und verantwortlichen Personen) verteidigen

KI ist komplex und erfordert einen funktionsübergreifenden Governance-Ansatz. Dazu hat Splunk einen Ausschuss ins Leben gerufen, der die Einführung und Integration der KI-Grundsätze von Splunk in den drei Säulen unseres Frameworks überwacht.

Der Ausschuss setzt sich aus Führungskräften unterschiedlicher Splunk-Bereiche zusammen, die vielfältige Perspektiven zusammenführen: von Produkt und Technologie, über Recht, Datenschutz, Sicherheit, Markteinführung, Personalwesen und globale Auswirkungen bis hin zu Marketing und weiteren Schlüsselfunktionen. Seine Aufgabe besteht darin, KI-Anwendungsfälle in Produktentwicklung und Betrieb zu prüfen und sicherzustellen, dass unsere vertrauenswürdigen KI-Grundsätze während des gesamten Lebenszyklus eingehalten werden.

Zukunftsträchtige KI entwickeln 

Die Zukunft der KI sieht denkbar rosig aus und wir betrachten sie als Voraussetzung für digitale Resilienz, insbesondere weil digitale Umgebungen immer komplexer werden. 

Gleichzeitig ist die KI ein Bereich, der sich stetig weiterentwickelt. Wer bei dieser Entwicklung führend sein will, muss agil und flexibel handeln können. Durch Regulierung und unmissverständliche Governance lassen sich wahrscheinlich einige der Probleme beseitigen, die derzeit mit KI verbunden sind. Doch es obliegt Unternehmen wie Splunk, die Pionierarbeit bei der Nutzung und Entwicklung von KI leisten, Organisationen beim sicheren und effektiven Umgang mit KI zu unterstützen.

Digitale Resilienz und Vertrauen sind untrennbar miteinander verwoben. Die größten Unternehmen der Welt setzen auf Splunk, um ihre erfolgskritischen Ziele zu erreichen. Wir freuen uns darauf, unseren Kunden, Mitarbeitern und Partnern durch KI mehr und schnellere Erfolge zu ermöglichen – mit Vertrauen als zentralem Element.

Wir lassen unseren Worten Taten folgen. Mehr darüber, wie Splunk seine KI-Philosophie zum Leben erweckt, erfahrt ihr in unserem (derzeit nur auf Englisch verfügbaren) E-Book The AI Philosophy Powering Digital Resilience.

Dieser Blogbeitrag wurde von Kriss Deiglmeier und Hao Yang gemeinsam verfasst.