IT-Sicherheit, Datenschutz und Vertrauenswürdigkeit

Das Querschnittsthema „IT-Sicherheit, Datenschutz und Vertrauenswürdigkeit“ wird aktiv dazu beitragen, andere Projekte während ihrer Umsetzung zu unterstützen (z. B. Beratung zu Datenschutzrichtlinien). Darüber hinaus wird das Institut für Internet-Sicherheit eigene Forschungsfragen im Bereich IT-Sicherheit und KI entwickeln und es werden auch eigenständige Fragestellungen bearbeitet. Beispiele hierfür sind: Sicherheitsbewertung von KI-Anwendungen, Sicherheitsaspekte von KI-Modellen, ethische Implikationen von KI.

Werkzeuge und Anwendungen: Im Schwerpunkt liegt der Fokus auf dem Schutz von KI-Verfahren. Hierbei werden konkret spezialisierte Werkzeuge wie differential privacy libraries, homomorphic encryption frameworks, secure multiparty computation platforms und confidential computing eingesetzt. Diese Technologien ermöglichen es, die Privatsphäre und Sicherheit von Daten während der Verarbeitung durch KI-Systeme zu gewährleisten. Darüber hinaus kommen fortschrittliche Tools wie adversarial robustness libraries zum Einsatz, um KI-Modelle gegen Angriffe und Manipulationen zu verteidigen. Zusätzlich werden spezielle Plattformen für das sichere Training und die Ausführung von KI-Modellen genutzt, um sicherzustellen, dass sensible Daten vor unbefugtem Zugriff geschützt sind.

Kompetenzspektrum: Neben angewandten Forschungsarbeiten widmet sich der Schwerpunkt der Entwicklung und Bereitstellung hochspezialisierter Beratungsdienstleistungen für Kommunen, um einen sicheren und vertrauenswürdigen Umgang mit KI-Technologien zu gewährleisten. Das Ziel besteht darin, Kommunen bei der sicheren Datensammlung, -übertragung und -verarbeitung zu unterstützen, insbesondere im Kontext von Künstlicher Intelligenz (KI).

• Sichere Datensammlung, gesicherte Datenübertragung und Datenintegrität: Das Forschungsteam entwickelt Beratungsstrategien, um Kommunen bei der Implementierung sicherer Mechanismen zur Datensammlung und bei der sicheren Übertragung von Daten zu unterstützen. Ebenfalls stellt der Schwerpunkt Sicherheitsmechanismen bereit, die helfen, die Integrität der Daten, die später für KI-Zwecke genutzt werden sollen, auf ihre Integrität zu überprüfen und sicherzustellen
• Sichere Umgebungen für KI-Lösungen und Schutz vor Angriffsvektoren auf KI-Systeme: Ein besonderes Augenmerk liegt auf der Schaffung von sicheren Umgebungen für den Betrieb von KI-Lösungen. Ebenfalls unterstützt der Schwerpunkt den Schutz von KI-Systemen.
• Folgeabschätzung: Der Forschungsschwerpunkt unterstützt bei Technikfolgenabschätzung und ethischen Betrachtungen im Bereich der KI. Durch die Expertise des Schwerpunkts können potenzielle Auswirkungen und Risiken von KI-Technologien analysiert und Lösungsansätze entwickelt werden, um diese zu adressieren. Die ethischen Überlegungen helfen dabei, moralische Grundsätze in den Entwicklungsprozess von KI-Lösungen zu integrieren und sicherzustellen, dass sie den gesellschaftlichen Normen und Werten entsprechen.

Mögliche Forschungsthemen: Der Fokus auf IT-Sicherheit, Datenschutz und Vertrauenswürdigkeit im Deutschen KI-Institut für Kommunen unterstreicht die zentrale Bedeutung dieser Aspekte für eine erfolgreiche Implementierung von KI in kommunalen Kontexten.

• IT-Sicherheit: Das KI-Institut legt höchsten Wert auf die Gewährleistung der IT-Sicherheit. Dies umfasst den Schutz vor Cyberangriffen oder Datenlecks. Dazu werden fortschrittliche Sicherheitsprotokolle und -maßnahmen implementiert, um die Integrität, Vertraulichkeit und Verfügbarkeit der Daten und Systeme sicherzustellen.
• Datenschutz: Der Schutz personenbezogener Daten muss im Mittelpunkt stehen. Im KI-Institut werden strengste Datenschutzstandards eingehalten, um sicherzustellen, dass jegliche Verarbeitung von Daten im Einklang mit den gesetzlichen Bestimmungen und ethischen Vorgaben erfolgt. Transparente Datenschutzrichtlinien werden entwickelt und implementiert, um das Vertrauen der Bürger:innen in die KI-Anwendungen zu stärken.
• Vertrauenswürdigkeit / Vertrauen: Der Aufbau von Vertrauenswürdigkeit ist entscheidend für den Erfolg von KI-Anwendungen in kommunalen Lösungen. Das KI-Institut setzt auf Transparenz und Kommunikation, um den Bürger:innen, der Stadtverwaltung und anderen Stakeholdern zu vermitteln, wie KI-Technologien eingesetzt werden und welchen Nutzen sie bringen.

Durch diesen Themenschwerpunkt gewährleistet das das Deutsche KI-Institut für Kommunen – URBAN.KI nicht nur technologische Exzellenz, sondern auch die ethische und rechtliche Verantwortung bei der Integration von KI in kommunale Lösungen. Dies trägt dazu bei, eine nachhaltige und gesellschaftlich akzeptierte Nutzung von KI in Städten und Gemeinden zu ermöglichen. Das Querschnittsthema „IT-Sicherheit, Datenschutz und Vertrauenswürdigkeit“ wird aktiv dazu beitragen, andere Projekte während ihrer Umsetzung zu unterstützen (z. B. Beratung zu Datenschutzrichtlinien).

Weiteres zum Thema IT-Sicherheit finden Sie auf dem Marktplatz IT-Sicherheit.