Rejoignez-nous

Suisse

EPFL: des failles de sécurité dans les modèles d'IA

Publié

,

le

Grâce à des attaques ciblées, les scientifiques ont pu amener des modèles d'IA à générer des instructions pour la construction d'une arme (archives). (© KEYSTONE/DPA/FRANK RUMPENHORST)

Les modèles d'intelligence artificielle (IA) peuvent être manipulés malgré les mesures de protection existantes. Avec des attaques ciblées, des scientifiques lausannois ont pu amener ces systèmes à générer des contenus dangereux ou éthiquement douteux.

Les grands modèles de langage (LLM) actuels possèdent des capacités remarquables qui peuvent néanmoins être utilisées à mauvais escient. Une personne malveillante peut ainsi les utiliser pour produire du contenu nocif, diffuser de fausses informations et soutenir des activités nuisibles.

Sur les modèles d'IA testés, dont GPT-4 d'Open AI et Claude 3 d'Anthropic, une équipe de l'Ecole polytechnique fédérale de Lausanne (EPFL) a eu un taux de réussite de 100% en utilisant des attaques adaptatives dites de "jailbreak".

Les modèles ont ensuite généré des contenus dangereux, allant d'instructions pour des attaques de "phishing" à des plans de construction détaillés pour des armes. Or ces modèles linguistiques sont censés avoir été entraînés de manière à ne pas donner de réponses à des demandes dangereuses ou éthiquement problématiques, souligne l'EPFL jeudi dans un communiqué.

Ces travaux, présentés cet été dans une conférence spécialisée à Vienne, montrent que les attaques adaptatives peuvent contourner ces mesures de sécurité. De telles attaques exploitent les points faibles des mécanismes de sécurité en posant des demandes ciblées ("prompts") qui ne sont pas reconnues par les modèles ou qui ne sont pas correctement rejetées.

Fabrication de bombes

Les modèles répondent ainsi à des demandes malveillantes telles que "Comment fabriquer une bombe?" ou "Comment pirater une base de données gouvernementale?", selon cette étude en phase de pré-publication.

"Nous montrons qu’il est possible d’exploiter les informations disponibles sur chaque modèle pour créer des attaques adaptatives simples, que nous définissons comme des attaques spécifiquement conçues pour cibler une défense donnée", explique Nicolas Flammarion, coauteur de l’article avec Maksym Andriushchenko et Francesco Croce.

Le point commun derrière ces attaques est l’adaptabilité: différents modèles sont vulnérables à différents prompts. "Nous espérons que nos travaux constitueront une précieuse source d’informations sur la robustesse des LLM", ajoute le spécialiste, cité dans le communiqué. Selon l'EPFL, ces résultats ont déjà une influence sur le développement de Gemini 1.5, un nouveau modèle d'IA de Google DeepMind.

Alors que la société s’oriente vers l’utilisation des LLM en tant qu’agents autonomes, par exemple comme assistants personnels en IA, il est essentiel de garantir leur sécurité, soulignent les auteurs.

"D’ici peu les agents d’IA pourront effectuer différentes tâches pour nous, comme planifier et réserver nos vacances, des tâches qui nécessiteraient d’accéder à nos agendas, nos e-mails et nos comptes bancaires. Cela soulève de nombreuses questions concernant la sécurité et l’alignement", conclut Maksym Andriushchenko, qui a consacré sa thèse à ce sujet.

Cet article a été publié automatiquement. Source : ats

Cliquez pour commenter

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Suisse

La force destructrice des laves torrentielles mieux comprise

Publié

le

Cette étude pourrait aider à mieux comprendre et prévoir la force destructrice des laves torrentielles, comme celle survenue en juin sur la commune de Val de Bagnes en Valais (archives). (© KEYSTONE/JEAN-CHRISTOPHE BOTT)

Une équipe de recherche de l'EPFZ a étudié des laves torrentielles en Valais avec une précision inégalée. Grâce à des mesures à haute résolution, l'étude a pu mettre en évidence des facteurs inexpliqués qui déterminent leur force destructrice.

L'équipe internationale dirigée par l'Ecole polytechnique fédérale de Zurich (EPFZ) a assisté en direct au déclenchement d'une lave torrentielle en juin 2022 dans l'Illgraben, au-dessus de la commune valaisanne de Loèche.

Pas mois de 25'000 mètres cubes de matériaux - un flux d'eau, de terre et d'éboulis - se sont alors déversés sur quatre kilomètres dans le lit de l'Illbach, avant de se jeter dans le Rhône, a indiqué l'EPFZ mercredi dans un communiqué.

Les scientifiques ont suivi le phénomène naturel à l'aide de plusieurs stations de mesure et de scanners laser 3D à haute précision, appelés lidars. En haut de la vallée, un front de deux mètres de haut avançant rapidement a été observé à la pointe de la coulée de boue, contenant des blocs d'une taille allant jusqu'à un mètre cube.

Plus bas dans la vallée, la coulée de boue était moins profonde, mais des vagues puissantes et rapides se produisaient régulièrement à la surface. Septante vagues de ce type ont été comptées par les scientifiques pendant la demi-heure qu'a duré la coulée de boue.

Rôle central des poussées

Ces poussées jouent un rôle central dans la force destructrice des laves torrentielles, car elles rendent le flux de boue particulièrement puissant et rapide. Selon les auteurs, les processus physiques à l'origine de ces poussées étaient jusqu'à présent peu connus.

"Nous avons pu démontrer que les poussées se produisent spontanément à la surface de la coulée. Elles proviennent de petites irrégularités qui augmentent au fil du temps, devenant plus grandes et plus rapides, jusqu'à atteindre leur force destructrice maximale", explique Jordan Aaron, professeur à l'EPFZ, cité dans le communiqué.

Sur la base de cette étude, il serait possible d'estimer à l'avenir si des poussées sont à attendre lors d'une lave torrentielle et quelle est leur force destructrice. Cette analyse permettrait à moyen terme d'améliorer la gestion des dangers, selon le Pr Aaron.

Les scientifiques ont également pu déduire des données de mesure que les gros blocs de roche influencent fortement la dynamique locale des courants dans les laves torrentielles. Ce phénomène n'est pas pris en compte dans la plupart des prévisions actuelles.

Des scientifiques de l'Institut fédéral de recherches sur la forêt, la neige et le paysage (WSL) et de l'université britannique de Manchester ont également participé à cette recherche, publiée dans la revue Communications Earth & Environment.

Cet article a été publié automatiquement. Source : ats

Continuer la lecture

EURO 2025

⚽ Euro féminin: Tout savoir sur la compétition

Publié

le

La footballeuse Alayah Pilgrim en action durant la Nations League féminine entre la Suisse et la France au Kybunpark de Saint-Gall, le 4 avril 2025 (KEYSTONE/Gian Ehrenzeller)

Le championnat d'Europe de football féminin se déroulera en Suisse du 2 au 27 juillet. La Nati dispute le troisième championnat d'Europe féminin de son histoire. A domicile, la sélection de Pia Sundhage pourra-t-elle faire mieux que ses devancières de 2017 et de 2022? Radio Lac vous propose un suivi de la compétition ainsi qu'un dossier spécial

Continuer la lecture

Environnement

La récolte de bois est en baisse pour la 2e année consécutive

Publié

le

Presque un tiers du bois récolté en Suisse est transformé en copeaux pour la production d'énergie. (archives) (© KEYSTONE/CHRISTIAN BEUTLER)

En 2024, 4,8 millions de mètres cubes de bois ont été récoltés en Suisse, ce qui correspond à une baisse de 2% par rapport à l’année précédente. Les copeaux pour la production d'énergie prennent de l'importance depuis des années et correspondent à un tiers du volume.

Après des récoltes en hausse entre 2020 et 2022, on constate maintenant des chiffres à la baisse depuis deux années consécutives. La tendance à la baisse de la demande et, par conséquent, des prix du bois a joué un rôle, explique mercredi l'Office fédéral de la statistique.

Le bois de grumes (–2%) et celui de bûches destinées à la production d’énergie (–11%) ont diminué, tandis que le bois d’industrie (+4%) et les copeaux pour la production d’énergie (+3%) ont augmenté. Ces derniers représentent 30% du volume de bois récolté. La part du bois-énergie a presque doublé au cours des vingt dernières années.

Cet article a été publié automatiquement. Source : ats

Continuer la lecture

Suisse

Richemont enregistre des ventes en hausse au premier trimestre

Publié

le

Le chiffre d'affaires du propriétaire de marques telles que Cartier, Piaget ou encore Baume & Mercier, s'est monté au 1er trimestre à 5,4 milliards d'euros (5 milliards de francs), en hausse de 3% sur an. (© KEYSTONE/MARTIAL TREZZINI)

Le groupe de luxe Richemont a continué à progresser au premier trimestre de son exercice décalé 2025/26, clos fin juin. Ses revenus ont connu une hausse notable, tiré par la surperformance de sa division joaillère dans un contexte général du luxe affaibli.

Durant la période sous revue, le chiffre d'affaires du propriétaire de marques telles que Cartier ou Piaget s'est monté à 5,4 milliards d'euros (5 milliards de francs), en hausse de 3% sur an. Hors effets de change, la croissance organique a grimpé de 6%, a indiqué mercredi la société dans un communiqué.

Le segment de la joaillerie a réalisé des recettes de 3,9 milliards d'euros, soit une hausse importante de 7%. A taux constants, l'augmentation des revenus s'élève à 11%.

Le secteur horloger du groupe genevois, qui comprend les maisons Piaget, Vacheron Constantin ou IWC, a en revanche chuté, comme attendu. Les ventes y ont dégringolé de 10% à 824 millions d'euros, ou de 7% hors effets de change.

Ces résultats correspondent peu ou prou au consensus de l'agence AWP. Les analystes interrogés anticipaient en moyenne des ventes à hauteur de 5,41 milliards d'euros, dont 3,9 milliards provenant de la joaillerie et 832 millions de l'horlogerie. Richemont ne donne pas d'indications en matière de bénéfice.

Cet article a été publié automatiquement. Sources : ats / awp

Continuer la lecture

Suisse

Personne ne devine la bonne combinaison de l’Euro Millions

Publié

le

Lors du prochain tirage vendredi, 103 millions de francs seront en jeu, indique la Loterie Romande. (photo symbolique) (© KEYSTONE/SALVATORE DI NOLFI)

Personne n'a trouvé la combinaison gagnante à l'Euro Millions mardi soir. Pour gagner, il fallait jouer les numéros 24, 38, 41, 45 et 49 et les étoiles 1 et 6.

Lors du prochain tirage vendredi, 103 millions de francs seront en jeu, indique la Loterie Romande. Cette loterie transnationale est proposée dans douze pays européens, dont la Suisse et le Liechtenstein.

https://jeux.loro.ch/games/euromillions

Cet article a été publié automatiquement. Source : ats

Continuer la lecture

Derniers titres

Publicité

L'info en continu

SuisseIl y a 1 heure

La force destructrice des laves torrentielles mieux comprise

Une équipe de recherche de l'EPFZ a étudié des laves torrentielles en Valais avec une précision inégalée. Grâce à des...

InternationalIl y a 2 heures

Stellantis se retire des utilitaires à hydrogène

Stellantis a annoncé mercredi mettre fin à son programme de développement dans l'hydrogène. Le géant...

InternationalIl y a 2 heures

ASML: forte hausse du bénéfice net au deuxième trimestre

Le fabricant de machines pour le secteur des semiconducteurs ASML a annoncé une forte hausse...

EURO 2025Il y a 3 heures

⚽ Euro féminin: Tout savoir sur la compétition

Le championnat d'Europe de football féminin se déroulera en Suisse du 2 au 27 juillet....

InternationalIl y a 3 heures

Islande: un volcan entre en éruption pour la 9e fois depuis 2023

Un volcan sur la péninsule de Reykjanes, dans le sud-ouest de l'Islande, est entré en...

EnvironnementIl y a 3 heures

La récolte de bois est en baisse pour la 2e année consécutive

En 2024, 4,8 millions de mètres cubes de bois ont été récoltés en Suisse, ce...

GenèveIl y a 4 heures

Genève: au fil du Rhône sur le D'Artagnan, barge poubelle des SIG

Depuis près de six décennies, les barges poubelles des SIG transportent au fil du Rhône...

SuisseIl y a 5 heures

Richemont enregistre des ventes en hausse au premier trimestre

Le groupe de luxe Richemont a continué à progresser au premier trimestre de son exercice...

InternationalIl y a 7 heures

Pour la Chine: le monde est en proie à des "turbulences"

Le vice-Premier ministre chinois He Lifeng, principal négociateur commercial de son pays avec les Etats-Unis,...

EURO 2025Il y a 8 heures

Euro dames 2025: l'Espagne face à la pression du favori

L'Espagne se dresse sur la route de la Suisse vendredi à Berne, en quart de...