Comment contrôler le flux de données de l'IA

EntrepriseBeat présente : IA Déchaîné - Un exclusif exécutif événement pour entreprise données dirigeants. Réseau et apprendre avec industrie pairs. Apprendre Plus

Sur le dernier année, IA a pris le monde par tempête, et quelques avoir a été gauche se demandant: Est IA des moments loin depuis asservir le humain population, le dernier technologie mode, ou quelque chose loin plus nuancé ?\

C'est compliqué. Sur un main, ChatGPT était capable à passer le bar examen — lequel est les deux impressionnant et peut être un peu sinistre pour avocats. Toujours, quelques fissures dans le les logiciels capacités sont déjà à venir à lumière, tel comme quand un avocat utilisé ChatGPT dans tribunal et le robot fabriqué éléments de leur arguments.

IA volonté indubitablement continuer à avance dans c'est capacités, mais là sont toujours grand des questions. Comment faire nous savoir nous peut confiance L'IA ? Comment faire nous savoir que c'est sortir est pas seulement correct, mais gratuit de biais et la censure? Où fait le données que le IA modèle est être qualifié sur viens depuis, et comment peut nous être assuré il n'était pas manipulé ?

Falsification crée risque élevé scénarios pour n'importe lequel IA modèle, mais en particulier ceux que volonté bientôt être utilisé pour sécurité, transport, la défense et autre domaines où humain vies sont à mise.

Événement

IA Déchaîné

Un exclusif inviter seulement soirée de connaissances et la mise en réseau, conçu pour senior entreprise cadres surveillance données piles et stratégies.

Apprendre Plus IA vérification: Nécessaire régulation pour sûr IA

Alors que national agences à travers le globe reconnaître que IA volonté devenir un intégral partie de notre processus et les systèmes, que n'a pas signifier adoption devrait arriver sans prudent se concentrer.

Le deux la plupart important des questions que nous besoin à répondre sont :

Est un particulier système en utilisant un IA modèle? Si un IA modèle est être utilisé, quoi les fonctions peut il commander/affecter ?

Si nous savoir que un modèle a a été qualifié à c'est conçu but, et nous savoir exactement où il est être déployé (et quoi il peut faire), alors nous avoir éliminé un significatif nombre de des risques dans IA être mal utilisé.

Là sont beaucoup différent méthodes à vérifier l'IA, y compris matériel inspection, système inspection, soutenu vérification et Van Eck radiation analyse.

Matériel inspections sont physique examens de l'informatique éléments que servir à identifier le présence de puces utilisé pour IA. Système inspection mécanismes, par contraste, utiliser logiciel à analyser un modèle, déterminer quoi c'est capable à contrôle et drapeau n'importe lequel les fonctions que devrait être interdit.

Le mécanisme travaux par identifier et séparer dehors un du système quarantaine zones — les pièces que sont volontairement obscurci à protéger IP et secrets. Le logiciel plutôt inspecte le environnant transparent Composants à détecter et drapeau n'importe lequel IA traitement utilisé dans le système sans le besoin à révéler n'importe lequel sensible information ou IP.

Plus profond vérification méthodes

Soutenu vérification mécanismes se produire après le initial inspection, assurer que une fois un modèle est déployé, il n'est-ce pas modifié ou falsifié avec. Quelques anti-effraction techniques tel comme cryptographique hachage et code obscurcissement sont complété dans le modèle lui-même.

Cryptographique hachage permet un inspecteur à...