Envisager une IA digne de confiance grâce à une surveillance renforcée
Lors de la principale rencontre technologique de Londres, le Dr Scott Zoldi, responsable de l’analyse chez FICO, a partagé des informations sur l’avenir de la convergence de l’intelligence artificielle (IA) et de la technologie blockchain. Soulignant le besoin crucial d’une « IA responsable », le Dr Zoldi a expliqué que ces systèmes devraient être employés en toute confiance dans la prise de décisions critiques. La clé de cette confiance est un cadre permettant l’audit et l’explication des processus de décision de l’IA, qui doivent être communiqués ouvertement aux organismes de réglementation.
Surveillance humaine dans les systèmes d’IA
Le Dr Zoldi a souligné l’importance de l’implication humaine dans le cycle de vie de l’IA, un concept largement adopté chez FICO. Cette approche « humains dans la boucle » encourage la révision et la correction des biais potentiels dans les données, contribuant à aligner les résultats de l’IA sur des normes éthiques et impartiales.
Le rôle de la blockchain dans la garantie de l’intégrité de l’IA
La technologie blockchain joue un rôle important en renforçant la confiance en l’IA. En créant des enregistrements immuables du développement de l’IA et des processus de prise de décision, elle garantit la transparence et la responsabilité. Cette traçabilité immuable peut inciter les ingénieurs en IA et les data scientists à respecter strictement les pratiques d’IA responsables.
[b>Aborder les biais de données inhérents
Aborder les biais est également crucial, tant dans les ensembles de données que dans les perspectives des ingénieurs en IA. Des normes de développement de modèles sont établies collectivement et renforcées à l’aide de la blockchain, garantissant une approche cohérente dans l’industrie.
Garantir la transparence et la protection de la propriété intellectuelle
FICO utilise une blockchain basée sur la permission – Hyperledger Fabric – pour faciliter l’audit sécurisé et transparent tout en protégeant la propriété intellectuelle. Les régulateurs et les acteurs nécessaires peuvent se voir accorder un accès pour garantir le respect des directives, établissant un équilibre entre la transparence et la sécurité de la propriété intellectuelle.
Maintenir l’élément humain dans l’IA
Le Dr Zoldi est convaincu que le maintien de l’intervention humaine dans le développement de l’IA est primordial. Alors que la confiance en l’IA est quelque peu incertaine, l’inclusion d’un jugement humain dans les systèmes d’IA est essentielle pour accroître la confiance et réduire les erreurs.
Renforcer la confiance en l’IA grâce à la réglementation et à la responsabilité
Pour promouvoir la confiance en l’IA, FICO plaide en faveur de garanties rigoureuses, de la construction de modèles responsables et considère l’IA comme un outil de soutien. Le Dr Zoldi voit la combinaison de l’IA et de la blockchain non seulement comme innovante, mais comme une avancée nécessaire – vitale pour la croissance durable de l’IA conformément aux normes légales et éthiques.
…
The source of the article is from the blog girabetim.com.br