Berichten zufolge listet die britische Regierung den Einsatz von KI-Systemen nicht in obligatorischen Registern auf, was Bedenken hinsichtlich Transparenzproblemen aufkommen lässt.
Laut The Guardian hat der Technologieminister inzwischen zugegeben, dass die Abteilungen hinsichtlich ihrer Nutzung von KI und Algorithmen nicht transparent sind, obwohl die verschiedenen Regierungsabteilungen diese für unterschiedliche Zwecke nutzen.
Britische Regierungsstellen „blinzeln“ hinsichtlich ihres KI-Einsatzes
Aus dem Guardian-Artikel geht hervor, dass keine einzige Behörde den Einsatz von KI aufgeführt hat, da die Regierung angedeutet hatte, dass dies verpflichtend werden würde. Dies hat Bedenken geweckt, dass der öffentliche Sektor einen „Blindflug“ betreibt.
Dies liegt daran, dass Regierungsbehörden im Vereinigten Königreich beispielsweise bereits KI nutzen, um Entscheidungen in allen Bereichen zu treffen, von der Auszahlung von Sozialleistungen bis hin zur Durchsetzung der Einwanderungsbestimmungen. Laut The Guardian zeigen einige Aufzeichnungen, dass öffentliche Stellen Aufträge für KI-Algorithmusdienste vergeben haben.
Beispielsweise hat die Beschaffungsbehörde der Polizei kürzlich einen Vertrag über Gesichtserkennung im Wert von 20 Millionen US-Dollar abgeschlossen, was die Besorgnis über eine „massenhafte biometrische Überwachung“ noch verstärkt.
Allerdings wurden nur neun algorithmische Systeme in ein öffentliches Register eingetragen, und keines der wachsenden Zahl von KI-Programmen, die im Sozialsystem vom Innenministerium oder der Polizei eingesetzt werden. Im Februar kündigte die britische Regierung an, dass die Verwendung von KI-Registern nun eine „Pflicht für alle Regierungsstellen“ sei.
Auf die Frage nach der mangelnden Transparenz gab der Staatssekretär für Wissenschaft und Technologie, Peter Kyle, zu, dass der öffentliche Sektor „die Notwendigkeit, bei der Art und Weise, wie die Regierung Algorithmen verwendet, transparent zu sein, nicht ernst genug genommen hat“.
„Ich akzeptiere, dass die Öffentlichkeit ein Recht darauf hat, es zu erfahren, wenn die Regierung Algorithmen im Namen der Öffentlichkeit einsetzt.“
Kyle.
„Die Öffentlichkeit muss das Gefühl haben, dass Algorithmen für sie da sind und nicht umgekehrt. Der einzige Weg, dies zu erreichen, besteht darin, ihre Verwendung transparent zu machen“, fügte Kyle hinzu.
Die britische Regierung ignorierte Warnungen
Laut einem Artikel im Guardian warnten Experten vor den Gefahren von KI bei unkritischer Einführung. Aktuelle Beispiele dafür, dass IT-Systeme nicht wie vorgesehen funktionieren, darunter die Horizon-Software der Post.
Der Einsatz von KI-Technologie in Whitehall reicht vom Copilot-System von Microsoft bis hin zu automatisierten Betrugs- und Fehlerprüfungen im Leistungssystem. In einer weiteren aktuellen KI-Vertragsbekanntmachung des Ministeriums für Arbeit und Renten (DWP) wurde „ein wachsendes Interesse innerhalb des DWP beschrieben, das das Interesse der gesamten Regierung und Gesellschaft widerspiegelt“.
Neben der Polizei nutzt auch das Innenministerium ein KI-gestütztes Einwanderungskontrollsystem. Dieses System, das von Kritikern als „Robo-Caseworker“ bezeichnet wird, ist an der Gestaltung von Entscheidungen einschließlich der Rückführung von Menschen in ihre Heimatländer beteiligt.
Die Regierung hat es jedoch als „regelbasiert“ und nicht als KI-System bezeichnet, da es kein maschinelles Lernen aus Daten beinhaltet. Nach Angaben der Regierung führt dies zu Effizienzsteigerungen, obwohl für jede Entscheidung weiterhin ein Mensch verantwortlich bleibt.
Berichten zufolge hat der NHS England auch einen 330-Millionen-Pfund-Vertrag mit Palantir über den Aufbau einer riesigen neuen Datenplattform abgeschlossen, was die Bedenken hinsichtlich der Privatsphäre der Patienten weiter aufkommen lässt. Palantir sagte, dass die Patienten die Kontrolle über die Daten behalten.
Eine Kampagne für Datenschutzrechte, Big Brother Watch, betonte, dass das Aufkommen des polizeilichen Gesichtserkennungsvertrags trotz der Warnung der Abgeordneten vor fehlenden Gesetzen zu dessen Regulierung die mangelnde Transparenz der Regierung über den Einsatz der KI-Technologie zeige.
„Der heimliche Einsatz von KI und Algorithmen zur Beeinflussung des Lebens der Menschen gefährdet die Datenrechte aller“, sagte Madeleine Stone, Chief Advocacy Officer.
„Regierungsbehörden müssen offen und ehrlich darüber sein, wie sie diese Technologie nutzen.“
Stein.
Imogen Parker, stellvertretende Direktorin der Daten- und KI-Forschungseinrichtung, äußerte ebenfalls Bedenken hinsichtlich der mangelnden Transparenz.
„Mangelnde Transparenz lässt die Öffentlichkeit nicht nur im Dunkeln tappen, sondern führt auch dazu, dass der öffentliche Sektor bei der Einführung von KI blindlings agiert.“
Parker.
„Das Versäumnis, algorithmische Transparenzaufzeichnungen zu veröffentlichen, schränkt die Fähigkeit des öffentlichen Sektors ein, festzustellen, ob diese Tools funktionieren, aus dem zu lernen, was nicht funktioniert, und die unterschiedlichen sozialen Auswirkungen dieser Tools zu überwachen“, fügte Parker hinzu.
Erhalten Sie in 90 Tagen einen hochbezahlten Web3-Job: Die ultimative Roadmap
Dieser Beitrag ist ein öffentlicher RSS Feed. Sie finden den Original Post unter folgender Quelle (Website) .
Unser Portal ist ein RSS-Nachrichtendienst und distanziert sich vor Falschmeldungen oder Irreführung. Unser Nachrichtenportal soll lediglich zum Informationsaustausch genutzt werden. Die auf dieser Website bereitgestellten Informationen stellen keine Finanzberatung dar und sind nicht als solche gedacht. Die Informationen sind allgemeiner Natur und dienen nur zu Informationszwecken. Wenn Sie Finanzberatung für Ihre individuelle Situation benötigen, sollten Sie den Rat von einem qualifizierten Finanzberater einholen. Kryptohandel hat ein großes Handelsrisiko was zum Totalverlust führen kann.
