Les codes internes révèlent comment Apple Intelligence entend se différencier de la concurrence

Cette année 2024, Apple a finalement décidé de s’investir à nouveau sur le marché incontesté (et incontournable) du mobile. intelligence artificielle. Je veux dire la peur qui afflige tous ceux qui vivent aujourd’hui : j’ai dû extrapoler et faire des choses qu’il ne fallait pas faire.

La principale crainte concerne ce que l’on appelle les « hallucinations de l’IA », c’est-à-dire lorsque l’IA génère des informations factuellement incorrectes ou inventées. Nous avons déjà vu cela se produire avec les solutions de Microsoft et de Google.

Maintenant, alors que commencent les deux tests bêta d’iOS 18.1 et de macOS 15.1, nous commençons à voir les premiers pas dans ce domaine et certains codes internes révèlent qu’il fait pour se protéger et se différencier de la concurrence, en présentant une configuration plus produit.

Comment fonctionne l’IA d’Apple ?

L’essence d’Apple Intelligence est sa capacité à interpréter et à répondre à «instructions», voici les commandes et instructions qui guident l’IA dans l’exécution de tâches spécifiques.

Ces invites peuvent être fournies aux utilisateurs, par exemple demander à l’IA d’ajuster ou de redimensionner un texte, ou elles peuvent être prédéfini pour Appleservant de guides pour maintenir l’IA dans certains paramètres comportementaux.

Par exemple, une invite prédéfinie pour un résumé par courrier électronique peut demander à l’IA de maintenir le résumé dans une limite de 10 mots, en se concentrant sur les détails essentiels tels que les noms, les données et les emplacements.

Cela garantit que la réponse fournie est pertinente et directe, sans divagations ni informations inutiles.

Ces invites jouent également un rôle crucial en empêchant l’IA de commettre des erreurs courantes, telles que les « hallucinations ».

Apple a inclus des instructions claires pour l’IA afin d’éviter ces erreurs, renforçant ainsi le besoin de précision et n’ajoutant pas de contenu inexistant.

Et euh Utilisateur Reddit a révélé certaines de ces invites, pour mieux comprendre comment Apple demande à son IA de fonctionner.

{{ Vous êtes un assistant de messagerie utile qui peut vous aider à identifier les questions pertinentes à partir d’un e-mail spécifique et d’une courte section de réponse. Étant donné un e-mail avec une longueur de réponse, posez les questions pertinentes qui sont explicitement posées dans l’e-mail. La réponse à ces questions sera choisie par le destinataire, ce qui contribuera à réduire les hallucinations dans l’élaboration de la réponse. Veuillez envoyer vos questions principales, ainsi qu’un ensemble de réponses/options possibles pour chacune de ces questions. Ne posez pas de questions auxquelles on n’a répondu que dans un court laps de temps. Ces questions doivent être courtes, pas plus de 8 mots. Vos réponses doivent également être courtes, environ 2 mots. Présentez votre sortie au format json avec une liste de dictionnaires contenant des questions et des réponses comme clés. Si vous avez une question sur un email, envoyez une liste vide []. Sortez simplement du json valide et rien de plus. }}

« Ne créez pas d’hallucinations »

Ces instructions ne représentent que ce que nous faisons pendant qu’elles fonctionnent. Et Apple a pris soin de ne pas présenter de réponses inventées.

{{ Vous êtes un assistant qui aide l’utilisateur à répondre à ses e-mails. Veuillez préparer une réponse concise et naturelle basée sur la section de réponse fournie. Veuillez limiter les réponses à 50 mots. Ne créez pas d’hallucinations. N’inventez pas d’informations factuelles. Conservez ou enregistrez vos e-mails entrants. }}

Prévention des contenus inadéquats

En plus d’éviter les hallucinations, Apple a pris des mesures pour empêcher la génération de contenus inappropriés par l’IA.

Les directives internes de l’entreprise demandent au logiciel d’éviter la création de matériel religieux, politique, violent, sexuel ou tout autre type de contenu pouvant être considéré comme offensant ou négatif.

Ces restrictions s’appliquent à la fois aux réponses textuelles et à la génération d’images, garantissant que l’expérience utilisateur reste sûre et appropriée.

Lors de tests internes, Apple a développé des outils qui bloquent la génération de réponses au cas où les invites des utilisateurs contiennent un langage offensant, une indication que l’entreprise prend au sérieux la sécurité et l’éthique des applications d’IA.

Il n’y a pas de système de contrôle à 100 %

Apple Intelligence représentant une avancée significative, l’entreprise reconnaît que ces systèmes d’IA ne sont pas infaillibles.

Il est possible que des utilisateurs plus expérimentés trouvent des moyens de manipuler les invites pour contourner les restrictions ou inciter l’IA à générer du contenu inapproprié.

Cela signifie que malgré deux efforts visant à créer un système robuste et sécurisé, Apple est toujours confronté à des défis pour garantir que son IA fonctionne comme prévu dans tous les cas.

De plus, les différences réglementaires entre des régions telles que les États-Unis, l’Europe et la Chine pourraient retarder le lancement d’Apple Intelligence sur certains marchés, limitant ainsi son impact mondial initial.

Apple Intelligence a un lancement partiel prévu pour 2024 en anglais américain, mais il n’y a pas non plus d’aperçu de la date à laquelle il sera disponible en portugais.