The Source Künstliche Intelligenz
Artikel

Vormarsch der KI: Auf diese vier DevSecOps-Trends solltest du achten

Eine sinnvolle und bedachte Nutzung der KI wird in Zukunft unerlässlich sein, um Innovationen voranzutreiben, noch besseren Wert für die Kund(inn)en zu erbringen und dadurch auf einem von KI geprägten Markt wettbewerbsfähig zu bleiben.

January 17, 2024 Lesezeit: 6 Min.
David DeSanto
David DeSanto Chief Product Officer

Die Rolle der KI in der Softwareentwicklung erreicht gerade einen entscheidenden Moment – einen Moment, der Unternehmen und ihre DevSecOps-Verantwortlichen dazu zwingen wird, sich proaktiver für eine effektive und verantwortungsvolle KI-Nutzung einzusetzen.

Gleichzeitig müssen sich Entwickler(innen) und die DevSecOps-Community im Allgemeinen auf vier globale Entwicklungen in der KI einstellen: die zunehmende Nutzung von KI beim Code-Testing, anhaltende Bedrohungen für den Besitz von geistigem Eigentum und für den Datenschutz, einen zunehmenden KI-Bias sowie – trotz dieser genannten Herausforderungen – eine wachsende Abhängigkeit von KI-Technologien. Geht man entsprechend auf diese Entwicklungen ein, sind Unternehmen und DevSecOps-Teams auf dem besten Weg zum Erfolg. Werden sie jedoch ignoriert, kann dies Innovationen ersticken oder – noch schlimmer – die Geschäftsstrategie zum Scheitern verurteilen.

Vom Luxus zum Standard: Unternehmen werden KI flächendeckend einführen

Die Nutzung von KI ist nicht mehr Luxus, sondern wird in allen Produkt- und Dienstleistungsbranchen zum Standard werden, wobei DevSecOps nicht mehr nur für die Entwicklung von Software genutzt werden wird, sondern auch, um die dazugehörigen KI-Funktionen zu entwickeln. In Zukunft wird es ausschlaggebend sein, KI sinnvoll zu nutzen, um Innovationen voranzutreiben und noch besseren Wert für die Kund(inn)en zu erbringen, damit man auf einem von KI geprägten Markt wettbewerbsfähig bleibt.

Aus meinen Gesprächen mit GitLab-Kund(inn)en und durch die Beobachtung von Entwicklungen in der Branche, wo Unternehmen die Grenzen der Effizienz durch KI immer weiter ausreizen, hat sich gezeigt, dass zwei Drittel der Unternehmen vorhaben, bis Ende 2024 KI-Funktionen in ihre Angebote zu integrieren. Unternehmen experimentieren nicht mehr mit KI, sondern werden zu KI-fokussierten Unternehmen.

Als Vorbereitung auf diesen Paradigmenwechsel müssen Unternehmen in die Überarbeitung der Softwareentwicklungs-Governance investieren und einen Fokus auf kontinuierliches Lernen sowie die Anpassung von KI-Technologien setzen. Dafür ist ein kultureller und strategischer Wandel nötig. Es erfordert ein Umdenken in Bezug auf Geschäftsprozesse, Produktentwicklung und Kundenbindungsstrategien. Und es erfordert Schulungen – von denen DevSecOps-Teams sagen, dass sie sie wollen und brauchen. In unserem neuesten globalen DevSecOps-Bericht gaben 81 % der Befragten an, dass sie sich mehr Schulungen zum effektiven Einsatz von KI wünschen.

Da die KI immer ausgefeilter wird und sich zu einem integralen Bestandteil des Geschäftsbetriebs entwickelt, müssen Unternehmen auch die ethischen Implikationen und gesellschaftlichen Auswirkungen ihrer KI-gestützten Lösungen berücksichtigen und sicherstellen, dass diese positive Auswirkungen auf ihre Kund(inn)en und Communities haben.

KI wird Code-Testing-Workflows dominieren

Die Weiterentwicklung von KI im Bereich der DevSecOps verändert Code-Testing bereits jetzt – und diese Entwicklung wird sich noch weiter beschleunigen. Die Studie von GitLab zeigte, dass nur 41 % der DevSecOps-Teams KI derzeit für automatisierte Testgenerierung im Rahmen der Softwareentwicklung nutzen, doch es wird erwartet, dass diese Zahl bis Ende 2024 auf 80 % ansteigt und innerhalb von zwei Jahren 100 % erreicht.

Unternehmen integrieren zwar KI-Tools in ihre Workflows, kämpfen aber damit, ihre derzeitigen Prozesse an die gesteigerte Effizienz und Skalierbarkeit anzugleichen, die die KI bieten kann. Dieser Wandel verspricht nämlich einen radikalen Anstieg von Produktivität und Genauigkeit, erfordert jedoch auch signifikante Anpassungen der traditionellen Rollen und Praktiken im Bereich des Testing. Durch die Anpassung an KI-gestützte Workflows müssen DevSecOps-Teams in KI-Übersicht geschult und eine Feinabstimmung der KI-Systeme vorgenommen werden, um sie in das Code-Testing zu integrieren und dadurch die Gesamtqualität und Zuverlässigkeit der Softwareprodukte zu steigern.

Außerdem wird diese Entwicklung die Rolle von Expert(inn)en im Bereich der Qualitätssicherung neu definieren, denn diese müssen ihre Kompetenzen weiterentwickeln, um verstärkt KI-basierte Testsysteme zu überwachen und zu verbessern. Menschliche Aufsicht ist unerlässlich, da KI-Systeme kontinuierliche Überwachung und Anleitung benötigen, um hocheffektiv zu sein.

Die Bedrohung des geistigen Eigentums und Datenschutzes in der Softwaresicherheit durch die KI wird wachsen

Die zunehmende Verbreitung von KI-basierter Codeerstellung erhöht das Risiko von Sicherheitslücken, die durch KI verursacht werden, und die Chance, dass die Sicherheit von Software, die Vertraulichkeit von Unternehmensdaten und der Schutz von Kundendaten durch die Preisgabe von geistigem Eigentum und die Verletzung des Datenschutzes beeinträchtigt werden.

Um diese Risiken zu mindern, müssen Unternehmen in ihren KI-Einführungsstrategien robuste Maßnahmen zum Schutz geistigen Eigentums und für den Datenschutz integrieren und sicherstellen, dass bei der Implementierung von KI vollkommen transparent kommuniziert wird, wie diese verwendet wird. Es ist unerlässlich, strenge Data-Governance-Richtlinien einzuführen und moderne Erkennungssysteme zu nutzen, um KI-bezogene Risiken zu erkennen und zu bewältigen. Durch Schulung von Mitarbeitenden und ein proaktives Risikomanagement wird das Bewusstsein für diese Schwierigkeiten gestärkt – dies ist unerlässlich, um geistiges Eigentum zu schützen und den Datenschutz zu gewährleisten.

Die Herausforderungen, die KI im Bereich der Sicherheit mit sich bringt, unterstreichen, wie wichtig DevSecOps-Praktiken weiterhin im gesamten Software-Entwicklungsprozess sind. Sicherheit und Datenschutz sind nicht etwas, das nachträglich berücksichtigt werden kann, sondern sind von Anfang an integraler Bestandteil des Entwicklungsprozesses. Kurz gesagt müssen Unternehmen darauf achten, dass bei der Einführung von KI Sicherheit an erste Stelle steht – ähnlich, wie bei DevSecOps die Sicherheit im Vorfeld kontrolliert wird. So wird garantiert, dass Innovationen, die auf KI basieren, nicht auf Kosten von Sicherheit und Datenschutz durchgesetzt werden.

Der KI-Bias wird zuerst zunehmen, bevor er besser wird

Im Jahr 2023 hat die KI ihren großen Durchbruch erlebt. Es war aber auch das Jahr, in dem das Thema „Bias“, also die Voreingenommenheit von Algorithmen, in den Blickpunkt rückte. KI-Tools, die sich beim Training auf Daten aus dem Internet stützen, übernehmen damit auch die gesamte Bandbreite an Voreingenommenheit, die in Online-Inhalten herrscht. Diese Entwicklung ist in zweifacher Hinsicht herausfordernd: Einerseits werden bestehende Vorurteile verstärkt und andererseits neue Voreingenommenheit geschaffen, die sich auf die Fairness und Neutralität von KI im DevSecOps-Bereich auswirkt.

Um diesem allgegenwärtigen Bias entgegenzuwirken, müssen sich Entwickler(innen) darauf fokussieren, ihre Trainingsdaten zu diversifizieren, Fairness-Metriken einzubauen und Tools zur Erkennung von Bias in KI-Modellen einführen sowie KI-Modelle in Betracht ziehen, die für spezielle Anwendungsfälle konzipiert wurden. Eine vielversprechende Möglichkeit ist es, KI-Feedback zu nutzen, um KI-Modelle anhand einer klaren Reihe an Richtlinien, einer sogenannten „Verfassung“, zu überprüfen. Diese soll klar festlegen, was die KI tun darf und was nicht. Die Festlegung ethischer Richtlinien und Trainingsinterventionen sind unerlässlich, um neutrale KI-Ergebnisse zu gewährleisten.

Unternehmen müssen robuste Data-Governance-Frameworks einführen, um sicherzustellen, dass die Daten in ihren KI-Systemen hochwertig und zuverlässig sind. KI-Systeme sind nämlich immer nur so gut wie die Daten, die sie verarbeiten, und minderwertige Daten können zu ungenauen Ergebnissen und schlechten Entscheidungen führen.

Entwickler(innen) und die Tech-Community im Allgemeinen sollte die Entwicklung vorurteilsfreier KI fordern und fördern, indem eine Constitutional AI oder bestärkendes Lernen mit menschlichem Feedback genutzt werden, um Bias zu reduzieren. Dies erfordert gemeinsame Anstrengungen zwischen KI-Anbietern und Benutzer(inne)n, um eine verantwortungsbewusste KI-Entwicklung zu erreichen, bei der Fairness und Transparenz im Vordergrund stehen.

Vorbereitung auf die KI-Revolution in DevSecOps

Während Unternehmen ihren Wandel hin zu KI-zentrierten Geschäftsmodellen vorantreiben, geht es nicht nur darum, wettbewerbsfähig zu bleiben, sondern auch ums Überleben. Führungskräfte und DevSecOps-Teams stehen vor Herausforderungen, die durch die Nutzung der KI nur verstärkt werden – seien es Bedrohungen im Bereich des Datenschutzes, Vertrauen in die von der KI produzierten Ergebnisse oder Fragen des kulturellen Widerstandes.

Zusammen stellen diese Entwicklung eine neue Ära in der Softwareentwicklung und -sicherheit dar. Um diese Veränderungen zu bewältigen, ist ein breiter Ansatz nötig, der die ethische KI-Entwicklung und -Nutzung, wachsame Sicherheits- und Governance-Maßnahmen sowie die Verpflichtung zum Datenschutz umfasst. Die Maßnahmen, die Unternehmen und DevSecOps-Teams jetzt ergreifen, werden die Weichen für die langfristige Zukunft von KI im Bereich der DevSecOps stellen und gewährleisten, dass diese Technologie auf ethische, sichere und vorteilhafte Weise genutzt und bereitgestellt wird.

Dieser Artikel wurde ursprünglich am 7. Januar 2024 in englischer Sprache auf TechCrunch veröffentlicht.

Wichtigste Erkenntnisse
  • KI in DevSecOps erfordert proaktives Eintreten für einen verantwortungsvollen Einsatz und die Auseinandersetzung mit globalen Trends wie KI-Bias (also die Voreingenommenheit der KI durch Training) und Datenschutzrisiken.
  • Der Einsatz von KI beim Testen von Code wird die Rolle der QS neu definieren und neue Fähigkeiten und Aufsicht für eine bessere Softwarequalität erfordern.
  • GitLab Duo kombiniert die Vorteile von KI mit klarer Inhaberschaft und klaren Datenschutzverpflichtungen.