IA : qui est responsable quand le chatbot se trompe ?

Lors d’une keynote tenu en marge du Rally IA Future Lab à Merzouga, Bassem Bennani, CMO chez Nokia Afrique du Nord, a insisté sur la nécessité de placer l’humain au centre du développement de l’intelligence artificielle.

S’appuyant sur un exemple récent impliquant une compagnie aérienne, il a rappelé que les entreprises restent juridiquement responsables des décisions prises par leurs systèmes d’IA, y compris en cas d’erreurs ou « d’hallucinations » des chatbots. Une illustration qui met en lumière les enjeux croissants liés à la responsabilité et à l’encadrement de ces technologies.

Lire aussi : Et si le vrai défi de l’IA marocaine n’était pas la technologie ?

Face à ces défis, l’intervenant a appelé les développeurs à intégrer les principes d’une IA responsable dès la conception de leurs solutions. « L’intelligence artificielle doit être au service de tous », a-t-il affirmé, plaidant pour une approche inclusive et respectueuse de l’environnement.

Au-delà de la performance technologique ou des objectifs financiers, il a insisté sur la nécessité de concevoir des systèmes ayant un impact positif sur la société. « Il ne faut pas que la prouesse technique ou le rendement soient les seules motivations », a-t-il souligné.

Un message clair adressé à l’écosystème : pour réussir, l’intelligence artificielle devra avant tout répondre aux besoins humains et contribuer au développement durable.