Nouvelle paradigme financier émergent sous la fusion de l'IA et du Web3 : L'essor de DeFAI et les défis de sécurité
Récemment, lors de la semaine de la blockchain organisée à Istanbul, des experts du secteur ont mené des discussions approfondies sur la tendance de la fusion entre l'intelligence artificielle et le Web3. Pendant l'événement, plusieurs experts des domaines de la sécurité et de la technologie ont participé à une table ronde, discutant de l'état actuel des applications de la technologie AI dans la finance décentralisée et des défis en matière de sécurité qu'elle engendre.
Avec le développement rapide des grands modèles de langage et des agents IA, une nouvelle paradigm financier émergente appelée "DeFAI" (finance intelligente décentralisée) est en train de se former progressivement. Cependant, cette innovation a également introduit de nouvelles menaces à la sécurité et des risques potentiels.
Un cadre supérieur d'une société de sécurité a déclaré : "Bien que le DeFAI ait un grand potentiel, il nous oblige à repenser les mécanismes de confiance dans les systèmes décentralisés. Contrairement aux contrats intelligents basés sur une logique fixe, le processus décisionnel des agents IA est influencé par de nombreux facteurs, y compris le contexte, le temps et même les interactions historiques. Cette imprévisibilité augmente non seulement le risque, mais offre également des opportunités aux attaquants potentiels."
Les agents IA sont essentiellement des entités intelligentes capables de prendre des décisions et d'exécuter des actions de manière autonome en se basant sur une logique IA, généralement autorisées à fonctionner par des utilisateurs, des protocoles ou des organisations autonomes décentralisées. Actuellement, l'exemple le plus typique est celui des robots de trading IA. Cependant, la plupart des agents IA fonctionnent encore sur une architecture Web2, s'appuyant sur des serveurs et des API centralisés, ce qui les rend vulnérables à divers types d'attaques, telles que les attaques par injection, la manipulation de modèles ou la falsification de données. Une fois qu'un agent IA est compromis, cela peut non seulement entraîner des pertes financières directes, mais aussi affecter la stabilité de l'ensemble du protocole.
Les experts ont également discuté d'un scénario d'attaque typique : lorsque l'agent de trading AI utilisé par les utilisateurs de DeFi surveille les messages des réseaux sociaux comme signaux de trading, un attaquant peut publier de fausses alertes, par exemple en affirmant qu'un certain protocole est attaqué. Cela pourrait inciter l'agent AI à déclencher immédiatement des opérations de liquidation d'urgence, entraînant non seulement des pertes d'actifs pour les utilisateurs, mais aussi provoquant des fluctuations du marché, que l'attaquant pourrait exploiter par des moyens tels que le trading anticipé.
Face à ces risques, les experts présents conviennent que la sécurité des agents IA devrait être une responsabilité conjointe des utilisateurs, des développeurs et des agences de sécurité tierces. Les utilisateurs doivent clairement comprendre l'étendue des autorisations des agents, accorder l'autorisation avec prudence et surveiller de près les opérations à haut risque des agents IA. Les développeurs doivent mettre en œuvre des mesures de défense dès la phase de conception, telles que le renforcement des invites, l'isolation en bac à sable, la limitation de la vitesse et la logique de retour en arrière. Les agences de sécurité tierces devraient fournir un examen indépendant des comportements des modèles d'agents IA, de l'infrastructure et des méthodes d'intégration sur la blockchain, et collaborer avec les développeurs et les utilisateurs pour identifier les risques et proposer des mesures d'atténuation.
Un expert en sécurité a finalement souligné : "Si nous continuons à considérer les agents IA comme une 'boîte noire', il n'est qu'une question de temps avant qu'un accident de sécurité ne se produise dans le monde réel." Il a conseillé aux développeurs explorant la direction de DeFAI : "Tout comme les contrats intelligents, la logique de comportement des agents IA est également mise en œuvre par du code. Puisqu'il s'agit de code, il y a une possibilité d'attaque, donc des audits de sécurité professionnels et des tests de pénétration sont nécessaires."
La Semaine de la Blockchain d'Istanbul, en tant que l'un des événements blockchain les plus influents d'Europe, a attiré plus de 15 000 développeurs, porteurs de projets, investisseurs et régulateurs du monde entier. Avec le lancement officiel par la Commission des marchés de capitaux de Turquie de l'octroi de licences pour des projets blockchain, le statut de cet événement dans l'industrie a été encore renforcé.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
21 J'aime
Récompense
21
5
Partager
Commentaire
0/400
ImpermanentLossEnjoyer
· 07-17 20:10
Le contrôle des risques n'est vraiment plus fait ?
Voir l'originalRépondre0
StablecoinEnjoyer
· 07-14 21:14
Devant il y a un Hacker, derrière il y a un bug.
Voir l'originalRépondre0
ShibaMillionairen't
· 07-14 20:53
Représentant des pigeons de l'industrie
Voir l'originalRépondre0
FlashLoanLarry
· 07-14 20:51
rekt incoming... vu ce film auparavant avec defi 1.0. l'efficacité du capital != sécurité
Voir l'originalRépondre0
CryptoHistoryClass
· 07-14 20:51
*vérifie le graphique* des vibrations luna 2.0, quelqu'un ?
DeFAI émerge : Application et défis de sécurité des agents IA dans la Finance Décentralisée
Nouvelle paradigme financier émergent sous la fusion de l'IA et du Web3 : L'essor de DeFAI et les défis de sécurité
Récemment, lors de la semaine de la blockchain organisée à Istanbul, des experts du secteur ont mené des discussions approfondies sur la tendance de la fusion entre l'intelligence artificielle et le Web3. Pendant l'événement, plusieurs experts des domaines de la sécurité et de la technologie ont participé à une table ronde, discutant de l'état actuel des applications de la technologie AI dans la finance décentralisée et des défis en matière de sécurité qu'elle engendre.
Avec le développement rapide des grands modèles de langage et des agents IA, une nouvelle paradigm financier émergente appelée "DeFAI" (finance intelligente décentralisée) est en train de se former progressivement. Cependant, cette innovation a également introduit de nouvelles menaces à la sécurité et des risques potentiels.
Un cadre supérieur d'une société de sécurité a déclaré : "Bien que le DeFAI ait un grand potentiel, il nous oblige à repenser les mécanismes de confiance dans les systèmes décentralisés. Contrairement aux contrats intelligents basés sur une logique fixe, le processus décisionnel des agents IA est influencé par de nombreux facteurs, y compris le contexte, le temps et même les interactions historiques. Cette imprévisibilité augmente non seulement le risque, mais offre également des opportunités aux attaquants potentiels."
Les agents IA sont essentiellement des entités intelligentes capables de prendre des décisions et d'exécuter des actions de manière autonome en se basant sur une logique IA, généralement autorisées à fonctionner par des utilisateurs, des protocoles ou des organisations autonomes décentralisées. Actuellement, l'exemple le plus typique est celui des robots de trading IA. Cependant, la plupart des agents IA fonctionnent encore sur une architecture Web2, s'appuyant sur des serveurs et des API centralisés, ce qui les rend vulnérables à divers types d'attaques, telles que les attaques par injection, la manipulation de modèles ou la falsification de données. Une fois qu'un agent IA est compromis, cela peut non seulement entraîner des pertes financières directes, mais aussi affecter la stabilité de l'ensemble du protocole.
Les experts ont également discuté d'un scénario d'attaque typique : lorsque l'agent de trading AI utilisé par les utilisateurs de DeFi surveille les messages des réseaux sociaux comme signaux de trading, un attaquant peut publier de fausses alertes, par exemple en affirmant qu'un certain protocole est attaqué. Cela pourrait inciter l'agent AI à déclencher immédiatement des opérations de liquidation d'urgence, entraînant non seulement des pertes d'actifs pour les utilisateurs, mais aussi provoquant des fluctuations du marché, que l'attaquant pourrait exploiter par des moyens tels que le trading anticipé.
Face à ces risques, les experts présents conviennent que la sécurité des agents IA devrait être une responsabilité conjointe des utilisateurs, des développeurs et des agences de sécurité tierces. Les utilisateurs doivent clairement comprendre l'étendue des autorisations des agents, accorder l'autorisation avec prudence et surveiller de près les opérations à haut risque des agents IA. Les développeurs doivent mettre en œuvre des mesures de défense dès la phase de conception, telles que le renforcement des invites, l'isolation en bac à sable, la limitation de la vitesse et la logique de retour en arrière. Les agences de sécurité tierces devraient fournir un examen indépendant des comportements des modèles d'agents IA, de l'infrastructure et des méthodes d'intégration sur la blockchain, et collaborer avec les développeurs et les utilisateurs pour identifier les risques et proposer des mesures d'atténuation.
Un expert en sécurité a finalement souligné : "Si nous continuons à considérer les agents IA comme une 'boîte noire', il n'est qu'une question de temps avant qu'un accident de sécurité ne se produise dans le monde réel." Il a conseillé aux développeurs explorant la direction de DeFAI : "Tout comme les contrats intelligents, la logique de comportement des agents IA est également mise en œuvre par du code. Puisqu'il s'agit de code, il y a une possibilité d'attaque, donc des audits de sécurité professionnels et des tests de pénétration sont nécessaires."
La Semaine de la Blockchain d'Istanbul, en tant que l'un des événements blockchain les plus influents d'Europe, a attiré plus de 15 000 développeurs, porteurs de projets, investisseurs et régulateurs du monde entier. Avec le lancement officiel par la Commission des marchés de capitaux de Turquie de l'octroi de licences pour des projets blockchain, le statut de cet événement dans l'industrie a été encore renforcé.