Les principes de Google sur les armes d’IA, la surveillance de masse et la déconnexion

En juin, Google a publié son « Principes d’IA», Le poste a signé par le PDG lui-même. Il parle de capteurs d’IA pour prédire le risque d’incendies de forêt. Des agriculteurs utilisant l’IA pour surveiller la santé de leurs troupeaux. Des médecins qui commencent à utiliser l’IA pour aider à diagnostiquer le cancer et à prévenir la cécité. Super trucs! Nous examinons le contexte.

Comme l’IA est appliquée à de plus en plus de problèmes à travers la société, il est important de réfléchir attentivement aux principes par lesquels cela est fait. Nous venons de partager les principes de l’IA de Google, qui montrent comment nous avons réfléchi à ces problèmes. #Googleaihttps://t.co/buomchkybz

– Jeff Dean (@jeffdean) 7 juin 2018

Ce tweet, et l’article lui-même, ont frappé un nerf pour nous en raison de la façon dont ils encadrent l’événement. C’est comme si des hauts dirigeants d’opinion chez Google proposaient cet ensemble de principes (ou peut-être leur avaient été donnés, comme Moïse) et apportent maintenant de l’illumination aux masses.

Il ne s’agit pas évidemment de contrôle des dommages après que la presse ait découvert l’intérêt de Google pour les armes d’IA, en particulier Projet Maven. Le projet était lié à l’analyse de l’imagerie des drones militaires. Après beaucoup de tollé public, la société a reculé du projet. Comme gate de n décrit bien,

Ayant été honteux de s’éloigner d’un contrat de meurtre lucratif, le Google de Google blogue sur la façon dont c’était totalement le plan depuis le début, vous les gars.

Les femmes de Google, poursuivant l’IA humaniste

Deux semaines avant la publication du New York Times Comment un contrat du Pentagone est devenu une crise d’identité pour Googlenos amis de Google ont posté ceci:

En tant que technologues, nous pouvons construire un meilleur Aisand de meilleurs systèmes d’apprentissage automatique si nous commençons par le besoin humain. Comment Googler Fernanda Vigas conçoit une IA centrée sur l’homme pour tout le monde https://t.co/iowhretv8q pic.twitter.com/ffwyatcpkm

– Google (@google) 15 mai 2018

À notre avis, un grand effort pour prendre de l’avance sur l’ensemble des armes Google AI. Une «IA centrée sur l’homme» chaleureuse et floue, avec une photo d’une jolie dame. Assez vieux pour être une figure mère, et encore assez jeune pour être attrayant. Le sourire, les cheveux, le décolleté. Points bonus pour son héritage latin. Perfeccin!

L’article du NYT, en revanche, s’ouvre sur un projecteur sur le Dr Fei-Fei Li, connu pour son travail à l’Université de Stanford (elle était la conseillère d’Andrej Karpathy):

Elle a également conseillé d’être «super prudente» dans le cadre du projet, notant qu’elle avait parlé publiquement sur le thème de «l’IA humaniste».

Et la citation de son e-mail interne:

Évitez à tout prix toute mention ou implication de l’IA. L’IA armée est probablement l’un des sujets les plus sensibilisés de l’IA sinon le plus. C’est de la viande rouge pour les médias pour trouver toutes les façons d’endommager Google.

Vous savez, de mauvais médias à la recherche de moyens d’endommager Google! Fausses de nouvelles!

Ainsi, d’une part, Ai humaniste, d’autre part, les armes Ai. Quelle image est plus vraie? Selon la PDG de Google Cloud, Diane Greene, le motivation Déposer Maven était assez simple:

Google ne choisirait pas de poursuivre Maven aujourd’hui parce que le contrecoup a été terrible pour l’entreprise.

En d’autres termes, si le tout ne faisait pas surface, il serait totalement OK de continuer à prendre de l’argent militaire. Comment est-ce pour les principes. Attendez, il y a un mot pour cela: l’hypocrisie.

Le loup sur le traitement éthique des moutons

Il était une fois, la devise de Google était «ne soyez pas mal». En 2015, ils l’ont changé pour «faire la bonne chose». Cette année, ils retiré les restes du passé de leur code de conduite:

Lorsque Google a été réorganisé dans une nouvelle société mère, Alphabet, en 2015, Alphabet a supposé une version légèrement ajustée de la devise, fais la bonne chose. Cependant, Google a conservé son Original Not Be Evil Language jusqu’aux dernières semaines.

Pourquoi changer un slogan si agréable et simple? Eh bien, à un moment donné, le loup ne peut plus dire «Je ne te mangerai pas» avec un visage droit aux moutons, car tout le monde sait un fait qu’il mange des moutons quotidiennement. Par conséquent, un nouveau manifeste dénué de sens pour le traitement éthique des moutons. Le loup est un leader dans ce domaine, après tout.

Les activités de Google sont la surveillance de masse. Votre e-mail, le téléphone, ce que vous regardez (YouTube), où vous allez (cartes), même ce que vous dites chez vous – si vous payez le privilège d’être écouté – pas ok, google – tout est un jeu juste pour maximiser le revenu publicitaire.

L’autre joueur principal de ce jeu est Facebook. Google a mieux les relations publiques et agit de manière plus décisive (2013: robots militaires financés par darpa? Acheter! 2017: association avec effrayant robots militaires? Vendez!), Le PDG n’a donc pas à s’excuser et à expliquer constamment. Au lieu de cela, il peut publier des principes.

Les moindres poissons emboîtent le pas. Par exemple, l’autre jour, un gars a demandé des données sur lui à Spotify et a obtenu 850 Mo de fichiers JSON:

Lorsqu’il est poussé avec le RGPD, @spotify Vous donne une énorme quantité de données de télémétrie de leur application (pour moi, 850 Mo de fichiers JSON).

Comprend votre historique de tests A / B, tout ce que vous avez jamais glisser, connecté, ainsi de suite. C’est ainsi que fonctionne les logiciels aujourd’hui. pic.twitter.com/mzbrk80nxj

– Michael Veale (@mikarv) 28 juin 2018

Vraisemblablement, ils l’utilisent pour tester ces annonces «passer à Premium» pour sélectionner les plus ennuyeuses, car Spotify affiche rarement toutes les annonces réelles pour nous.

Votre navigateur fait de la «télémétrie», Windows 10 fait une télémétrie, les jeux que vous jouez à faire la télémétrie. La chose la plus triste à propos de tout cela est que cela ne semble pas améliorer la qualité de quoi que ce soit. C’est de la folie tout le long.

Pour en savoir plus sur le capitalisme de surveillance et où l’apprentissage automatique s’y tient, lisez Construire un meilleur monstreou un autre discours de Maciej Cegowski. Ils sont assez divertissants.

Comment se déconnecter à partir d’un compte Google

Il y a longtemps, les mineurs transportaient des canaris en cage dans des tunnels miniers avec eux. Si des gaz dangereux tels que le monoxyde de carbone collecté dans la mine, les gaz tueraient le canari avant de tuer les mineurs, offrant ainsi un avertissement pour quitter les tunnels immédiatement. (Wiktionary)

Voici un autre type d’oiseau, qui vit des gaz toxiques. Tant qu’il est là, vous savez que l’air ne s’est pas dégagé. Il apparaît lorsque vous essayez de vous déconnecter d’un compte Google.

Il y a deux aspects de la connexion et de la sortie de tout service. Le premier, évident, traite de l’accès au service. Le second, avec le fournisseur de services sachant qui vous êtes. Celles-ci peuvent sembler à peu près les mêmes, et dans le bon vieux temps, elles étaient en pratique.

Cependant, quelque part le long de la route vers le nouveau monde courageux, les observateurs ont eu une idée brillante: lorsque vous vous déconnectez, vous perdez l’accès, mais ils vous voient toujours. Pour illustrer cela, la première capture d’écran:

Zygmunt a cliqué sur «Connexion» et est maintenant à mi-chemin entre connecté et dehors. La première étape a été facile, juste un clic. Maintenant, pour déconnecter tout le long, il faut effectuer une procédure compliquée. Tout d’abord, vous devez cliquer sur la petite tique à droite. Pas l’adresse e-mail, en particulier cette icône 24 x 24 pixels. Ensuite, vous arrivez à cet écran:

Si vous vous arrêtez ici, vous n’avez rien réalisé: actualisez la page et vous obtenez un écran un. Notez la ligne «Signed Out». C’est comme un Zen Koan: comment vous déconnectez-vous lorsque vous êtes déconnecté?

Il s’avère que l’on doit «supprimer un compte». Bon fou, Zygmunt ne voudrait pas supprimer son compte! Il peut en avoir besoin à l’avenir. Heureusement, c’est juste de lier. Une erreur honnête, probablement.

Lorsque vous rassemblez le courage de «supprimer un compte» après tout, vous pouvez «supprimer un compte de ce navigateur». Voir? Nous voulions juste plaisanter, votre compte est toujours là.

Sur ce troisième écran, on peut enfin cliquer sur la croix. Maintenant, nous allons quelque part. Notez également le lien «fait» pratique en bas. Utilisez-le pour passer à la case carrée.

Maintenant, c’est le dernier avertissement, en rouge. Heureusement, vous avez une dernière chance d’annuler. Au cas où vous êtes ingrat et choisissez «Oui, supprimez», vous êtes finalement déconnecté, après seulement quatre clics supplémentaires.

Ce processus ridicule montre à quel point Google veut vous suivre. Ne croyez pas leurs «principes» et ce qu’ils disent, regardez simplement ce qu’ils font. Tant que cette séquence d’écrans est là…