KI: Regulatorik am Horizont, Umsetzung schreitet voran und Risikobewusstsein steigt

Ein Rückblick auf die HH-Strategietage

In diesem Jahr standen die Hamburger Strategietage vom 21. bis 23. Februar unter anderem im Zeichen der globalen Herausforderungen, die mit dem rasanten Aufstieg der künstlichen Intelligenz einhergehen. Mehr als 800 CIOs, IT-Leiter und –Entscheider aus Deutschland stellten ihre Projekte vor und diskutierten drei Tage lang über Chancen und Risiken sowie aktuelle Entwicklungen. Unter dem Konferenz-Motto „Balancing Innovation Boost and Legacy“ war DER Diskussionspunkt in zahlreichen Podiumssitzungen und Workshops vorgegeben und das Thema der strategischen Herangehensweise an die Generative KI dominierte. Auch im Zscaler-Roundtable wurde eine Bestandserhebung rund um Best Practices, Risiken und Chancen vorgenommen. Das generelle Fazit im Vergleich zum letzten Jahr lautete, das der Themenreigen KI und Generative KI heuer sehr viel differenzierter betrachtet wurde und Chancen von den Unternehmen ausgelotet werden.

Insgesamt hat die Auseinandersetzung mit der KI im Lauf eines Jahres branchenübergreifend zugenommen und ist auch auf den Vorstandsetagen angekommen. Während im letzten Jahr noch ein diffuses Bild rund um den Hype von ChatGPT vorherrschte und die Diskussionen zwischen Blockade versus Nutzung schwankten, stehen heute bereits Strategien zum sinnvollen Einsatz auf der Tagesordnung und Best Practices machen Schule. Die Erkenntnis hat sich auf breiter Front durchgesetzt, dass ein strukturiertes und geplantes Vorgehen rund um den Einsatz von GenKI-Tools erforderlich ist. Manche Unternehmen haben z.B. Expertengremien eingesetzt, die mit der Erarbeitung von Uses Cases beauftragt werden und zeitgleich die ethische Debatte und gesetzliche Auflagen im Auge behalten.

Die Notwendigkeit einer Chancen- und Risikoabwägung wird bestärkt durch die Negativschlagzeilen von erfolgreichen Cyberangriffen, die mit Hilfe der künstlichen Intelligenz durchgeführt werden. Meldungen, bei denen die KI zur Impersonifikation von Führungskräften oder zur Professionalisierung von Phishing oder Vishing-Kamgagnen eingesetzt werden, nehmen zu. Es herrschte Einigkeit darüber, dass die Sicherheit nachziehen muss, um ebenfalls unter Nutzung der KI neue KI-basierte Angriffe frühzeitig zu erkennen. Groß wird die Gefahr eingestuft, die von Fake News und der Manipulation von Inhalten ausgehen kann, da sie weitreichende Auswirkungen auf den Geschäftsbetrieb von Unternehmen haben kann. Deshalb ist es auch nicht verwunderlich, dass die KI-Debatte mittlerweile auch in der Vorstandsebene angekommen ist. Das Management hört zu und erwartet sich von entsprechenden Arbeitsgruppen und Gremien Beratung zur Entwicklung der eigenen Strategie für die Anwendung im Unternehmen.

Vor allem die Medienbranche lebt vor, wie der Einsatz von GenAI produktiv erfolgen kann. Im Vergleich mit anderen Branchen sind Verlage weit in der Adaption der neuen Technologie vorangeschritten, so dass einige Medienhäuser ihre Artikel mit Hilfe von Chatbots verfassen lassen. In diesem Zuge wurden aber auch bereits negative Erfahrungen gemacht was passieren kann, wenn KI-generierte Inhalte nicht entsprechend gekennzeichnet werden. Die Diskussion um Fake News ist gerade im Superwahljahr 2024 in vollem Gange. Diese Beispiele lassen den Ruf nach Regulatorik laut werden und der AI ACT soll hier die erforderliche Grundlage bieten, die auch mit Sanktionen für den unethischen Gebrauch der KI-Tools einhergehen. Eine entsprechende Gesetzgebung mit Richtlinien unter anderem zum ethischen Einsatz wird dementsprechend nicht als Innovationsbremse, sondern vielmehr als Notwendigkeit für das sichere und regulierte Vorgehen betrachtet.

Der Informationsbedarf war groß, wie die KI nicht nur die Sicherheit, sondern auch den Geschäftsbetrieb von Unternehmen fördern kann. Hier wurden Modelle diskutiert, wie die künstliche Intelligenz ihre Stärken bei der Analyse großer Datenmengen auf Anomalien einbringen kann.

Unterm Strich wurden die Strategietage in Hamburg in diesem Jahr ihrem Ruf gerecht, richtungsweisende Einblicke und Diskussionen unter Peers zu ermöglichen. Strategien im Umgang mit GenAI sind auf breiter Front in der Entwicklung. Risiken im Hinblick auf die Sicherheit der eigenen schützenswerten Daten werden von den Unternehmen gesehen und es gibt eine breite Akzeptanz sich mit dem Gesamtpaket der künstlichen Intelligenz auseinanderzusetzen. Durch diese umfangreiche Betrachtungsweise können Unternehmen nicht nur von den Vorteilen profitieren, sondern auch die negativen Implikationen abfedern.