Bern, 12. Juni 2023 - Angesichts der zunehmenden Verbreitung von Künstlicher Intelligenz (KI) mit sicherheitskritischen Folgen, lancieren der Think-Tank Pour Demain und die Organisatoren der Swiss Cyber Security Days den “AI Safety Prize”.
Während Unternehmen damit beschäftigt sind, immer leistungsfähigere KI-Modelle und -Anwendungen zu entwickeln, warnen führende KI-Expertinnen und Experten aus der Forschung und Wirtschaft vor den potenziell negativen Folgen für die Menschheit.
Inspiriert von Bug Bounty-Programmen aus der Cybersicherheitsbranche, zielt der Preis darauf ab, Expert:innen zu belohnen, die Sicherheitslücken in KI-Systemen identifizieren und melden. Es handelt sich um den ersten solchen Preis im deutschsprachigen Raum.
Der Preis wird erstmals im September 2023 an den Swiss Cyber Security Days in Bern vorgestellt. Ziel ist es, die Aufmerksamkeit von Wirtschaft, Wissenschaft und Politik auf das Thema KI-Sicherheit zu lenken, konkrete Sicherheitslücken zu schliessen und die regulatorischen Rahmenbedingungen für eine sichere Verwendung zu schaffen.
Die erste Preisausschreibung wird zwei Kategorien aufweisen:
Sicherheitslücken bei Large Language Models wie ChatGPT.
Sicherheitslücken bei Open-Source KI-Modellen, die in kritischen Infrastrukturen der Schweiz bereits im Einsatz sind
Interessierte, von Studierenden bis zu Professor:innen und Cybersicherheitsunternehmen, können sich unter aisafetyprize.ch einschreiben, damit sie in den nächsten Wochen über die Details der Preisausschreibung informiert werden.
Für weitere Informationen wenden Sie sich bitte an: info@aisafetyprize.ch
Pour Demain
Pour Demain ist ein gemeinnütziger Think-Tank, der zwischen Wissenschaft, Politik und Gesellschaft vermittelt. Wir greifen gesellschaftlich wichtige Themen auf und entwickeln konkrete, wissenschaftsbasierte Vorschläge – mit einer positiven Wirkung für die Schweiz und darüber hinaus. www.pourdemain.ch
Die Swiss Cyber Security Days
Die Swiss Cyber Security Days SCSD ist die führende Dialogs- und Know-how Plattform der
Schweiz im Bereich Cyber Security. Die SCSD überbrücken die Wissenslücke zwischen Technologie, Wirtschaft, Bevölkerung und bieten Politik, Verwaltung, Fachleuten und Anwendern Einblicke in aktuelle und zukünftige Bedrohungen und innovative Lösungen. Im Fokus stehen Politik, Wirtschaft, Bildung und Forschung. Allen beteiligten nationalen und internationalen Akteuren steht die Plattform offen für den Informations-Austausch, Inspiration und Treffen mit Politik, BundesVerwaltung, Wirtschaft und führenden Cybersicherheit-Expertinnen und Experten. Die fünfte Ausgabe der Swiss Cyber Security Days findet am 20. und 21. September 2023 auf dem BERNEXO-Gelände statt. Präsidentin der Swiss Cyber Security Days ist Nationalrätin Doris Fiala (FDP). https://scsd.ch/