Блог Джохо

На конференції Google PAIR Керрі Карахаліос розповість про те, як люди осмислюють свій світ та життя в Інтернеті. (Це розмова, багата інформацією, і Керрі розмовляє швидко, тому ця публікація є надзвичайно ненадійною. Вибачте. Але вона чудова. Побугуйте в Google.)

ПРИМІТКА: Блоги в режимі реального часу. Помилка. Відсутні точки. Опускаючи ключову інформацію. Представляємо штучне руйнування. Надмірне наголошення на дрібних справах. Перефразовуючи погано. Не працює перевірка орфографії. Маніпулюючи ідеями та словами інших людей. Ти є попередив, Люди.

Сьогодні, за її словами, люди хочуть зрозуміти, як інформація, яку вони бачать, надходить до них. Чому це змінюється? “Чому ви отримуєте різні відповіді залежно від вашої мережі Wi-Fi? ”Чому ви отримуєте різні відповіді залежно від вашої мережі Wi-Fi? Ці алгоритми також впливають на наші особисті канали, наприклад, Instagram та Twitter; Twitter формулює це, але не повідомляє вам, як він вирішує, що ви побачите

У 2012 році Крістіан Сандвіг та [пропущене ім’я] Холбрук дивувались, чому вони отримують дивні персоналізовані оголошення у своїх стрічках. Більшість людей не знали, що їхні канали є кураторськими: лише 38% знали про це в 2012 році. Ті, хто був обізнаний, про це знали через “народні теорії”: неавторитетні пояснення, які дозволяють їм осмислити їхню стрічку. Чотири теорії:

1. Теорія особистого залучення: якщо вам подобається та натискає хтось, то більше цієї людини ви побачите у своїй стрічці. Дехто любив дитячі фотографії своїх друзів, але їм це набридло.

2. Глобальна теорія населення: якщо багатьом подобається, це відображатиметься на інших каналах.

3. Нарцисист: Ви побачите більше від людей, подібних до вас.

4. Теорія формату: Деякі типи речей отримують більше спільного доступу, наприклад, фотографії чи фільми. Але люди не отримали

Кемптон вивчав термостати в 1980-х. Люди думали про це як про перемикач або зворотній зв’язок, або як про клапан. Він розглянув схеми їх використання. Незалежно від теорії, вони змусили її працювати для них.

Вона показує сторінку Orbitz, яка випльовує рейси. Ви нічого не бачите під капотом. Але хтось дізнався, що якщо ви використовуєте Mac, ваші ціни будуть вищими. Люди почали використовувати конструкції, що показують шви. Отже, група Керрі створила представлення, яке показувало стрічку та весь вміст із їхньої мережі, який був утричі більший за те, що вони бачили. Для багатьох це було як пробудження від Матриці. Що ще важливіше, вони зрозуміли, що їхні друзі не “сподобалися” або коментували, оскільки алгоритм заважав їхнім друзям бачити те, що вони розміщували.

Інший інструмент показує, з ким ви бачите публікації, а хто ні. Це засмучувало багатьох людей.

Пройшовши цей процес, люди висунули нові народні теорії. Наприклад, вони вважали, що, мабуть, мудрість ФБ у видаленні матеріалів, які так чи інакше нецікаві. [перефразуючи].

Вони дозволяють їм налаштувати, кого вони бачать, що змусило багатьох людей сказати, що алгоритм FB насправді досить хороший; мало що змінити.

Чи корисні ці народні теорії? Лише два: особисте залучення та панель управління, оскільки вони дозволяють вам щось робити. Але є погані інструменти для налаштування.

Як прийняти народні теорії: 1. Алгоритм зондує, штовхає і продукує. «Було б чудово, говорить Керрі, мати відкриті API, щоб люди могли створювати інструменти» (Було б чудово мати відкриті API, щоб люди могли створювати інструменти. FB це застаріло.) 2. Поєднувані інтерфейси для генерації активних народних теорій. Налаштування на повернення позики?

Інший інтерфейс панелі керування, побудований Еріком Гілбертом, використовує дизайн для викриття алгоритмів.

Вона закінчується висловом Річарда Дайєра: "Усі технології одночасно технічні, а також завжди соціальні ..."

Коментарі вимкнено на [liveblog] [PAIR] Karrie Karahalios

[liveblog] [PAIR] Джес Холбрук

Я на конференції PAIR у Google. Джес Холбрук - лідер UX для AI. Він говорить про машинобудування, орієнтоване на людину.

ПРИМІТКА: Блоги в режимі реального часу. Помилка. Відсутні точки. Опускаючи ключову інформацію. Представляємо штучне руйнування. Надмірне наголошення на дрібних справах. Перефразовуючи погано. Не працює перевірка орфографії. Маніпуляція ідеями та словами інших людей. Ти є попередив, Люди.

"Ми хочемо додати ШІ до набору інструментів, який допоможе вам вирішити реальні проблеми". Одна з цілей цього: "Як нам демократизувати ШІ та змінити, що означає бути експертом у цьому просторі?" Він посилається на допис у блозі, який він зробив із Джошем Лавджоєм про орієнтовану на людину ML. Він підкреслює, що ми вже на початку з’ясування цього питання.

Сьогодні хтось знаходить набір даних і знаходить проблему, яку цей набір міг би вирішити. Ви тренуєте модель і дивитесь на її ефективність, і вирішуєте, чи достатня вона. А потім ви запускаєте "Перший у світі розумний X. Наступний крок: прибуток". Але що, якби ви могли зробити це зосереджено на людині?

Дизайн, зосереджений на людині, означає: 1. Залишатися на близькій відстані. Знайте своїх користувачів. 2. Інклюзивна дивергенція: зверніться до нас і залучіть потрібних людей. 3. Спільне визначення успіху: що означає робити? 4. Робіть рано і часто: багато прототипів. 5. Ітераціюйте, тестуйте, викидайте.

Отже, як би виглядав орієнтований на людину підхід до МО? Він наводить кілька прикладів.

Замість того, щоб намагатися знайти програму для даних, орієнтована на людину ML знаходить проблему, а потім знаходить набір даних, відповідний цій проблемі. Наприклад, діагностика хвороб рослин. Зберіть фотографії з тегами рослин. Або використовуйте ML, щоб персоналізувати “ложку для балансування” для людей із паркінсоном.

Сьогодні ми виявляємо упередженість у наборах даних після виявлення проблеми. Наприклад, стаття ProPublica, яка викриває упередженість у прогнозах щодо рецидиву злочинності. Натомість попередньо перевіряйте наявність упередженості, згідно з попередньою розмовою JG.

Сьогодні моделі персоналізують досвід, наприклад, клавіатури, які підлаштовуються під вас. Завдяки орієнтованому на людину ML, люди можуть персоналізувати свої моделі. Наприклад, хтось тут створив детектор єнота, який використовує зображення, які він сам зробив та завантажив, персоналізовані для його конкретного єнота-вихованця.

Сьогодні ми маємо централізувати дані, щоб отримати результати. «З орієнтованим на людину МЛ ми також мали б децентралізоване федеративне навчання» З орієнтованим на людину МЛ ми також мали б децентралізоване федеративне навчання, отримуючи переваги, зберігаючи конфіденційність.

Сьогодні існує невелика група експертів з питань ML. [На фотографії, які він демонструє, всі білі чоловіки, чітко сказано.] Завдяки орієнтованому на людину ML, ви отримуєте експертів, які мають досвід доменів, що не належать до ML, що призводить до збільшення кількості виробників. Ви можете створити більш різноманітні, загальні набори даних.

Сьогодні ми маємо вузьке навчання та тестування. З орієнтованою на людину МЛ ми будемо судити про те, як системи змінюють життя людей. Наприклад, ML для сліпих, щоб допомогти їм розпізнати речі у своєму оточенні. Або переклад знаків у режимі реального часу.

Сьогодні ми робимо ML один раз. Наприклад, PicDescBot твітує із забавними помилками розпізнавання зображень. З орієнтованою на людину МЛ ми поєднаємо МЛ та навчання. Наприклад, людина наводить приклад, і нейронна мережа породжує альтернативи. В іншому прикладі ML покращив пейзажі, зроблені StreetView, де дізнався, що таке покращення, із набору даних професійних фотографій. Google автоматично пропонує ML також вчиться на основі людських вказівок. Він також демонструє відео Сімони Гірц, "Королева засмічених роботів".

Він посилається на справу Аманди: "Розширення поняття людей про нормальне" майже завжди є поступовим процесом.

[Фотографія його команди надзвичайно різноманітна.]

Коментарі вимкнено на [liveblog] [PAIR] Джесс Холбрук

[liveblog] Google AI Conference

Я, на диво, на першій конференції PAIR (People + AI Research) у Google, в Кембриджі. Тут є близько 100 людей, можливо половина з Google. Офіційна тема: «Як люди та ШІ працюють разом? Як ШІ може принести користь усім? " Я вже провів три розмови, що відкривали очі, і конференція ще навіть не розпочалася. (Конференція видається чудово збалансованою за статтю для аудиторії та спікерів.)

Великий Мартін Ваттенберг (половина Ваттенберга - Фернанда Вієга) починає це, представляючи Джона Джаннандрею, віце-президента Google, який відповідає за штучний інтелект, пошук тощо. "Ми докладаємо багато зусиль для використання інклюзивних наборів даних".

Джон каже, що це вплине на кожну вертикаль. "Важливо зрозуміти гуманістичну сторону цього". За його словами, у всьому світі розмовляють 1300 мовами, тому, якщо ви хочете охопити всіх за допомогою технологій, машинне навчання може допомогти. Подібно до охорони здоров'я, напр. діагностування проблем сітківки, викликаних діабетом. Подібно до соціальних медіа.

PAIR має намір використовувати інженерію та аналіз для посилення експертного інтелекту, тобто професіоналів на своїх робочих місцях, творчих людей тощо. І “як нам залишатися інклюзивними? Як ми можемо зробити так, щоб ця технологія була доступна кожному і не використовувалась лише елітою? "

Він поговорить про зрозумілість, керованість та доступність.

Інтерпретабельність. Google замінив усе своє програмне забезпечення для перекладу мов на нейромережевий ШІ. Він показує приклад Хемінгуея, перекладеного на японську, а потім назад на англійську. Це чудово, але все ж частково неправильно. Інструмент візуалізації показує скупчення з трьох рядків трьома мовами, показуючи, що система згрупувала їх разом, оскільки це переклади одного і того ж речення. [Я сподіваюся, я це правильно зрозумів.] Ще один приклад: фото інтегрованих градієнтів показує, що система визначила фотографію як пожежну шлюпку через потоки води, що з неї надходять. "Ми тільки починаємо з цього". "Нам потрібно інвестувати в інструменти, щоб зрозуміти моделі".

Керованість. Ці системи вчаться на маркованих даних, наданих людьми. "Ми докладаємо багато зусиль для використання інклюзивних наборів даних". Він показує інструмент, який дозволяє візуально перевіряти дані, щоб побачити присутні в них грані. Він показує ще один приклад виявлення відмінностей для побудови більш надійних моделей. «У нас люди у всьому світі малювали ескізи. Наприклад, намалюйте ескіз стільця ». У різних культурах люди малюють різні палички на стільці. [Див. Елеонору Рош щодо прототипів.] І ви можете вбудувати обмеження в моделі, наприклад, чоловічі та жіночі. [Я цього не зрозумів.]

Доступність. Внутрішні дослідження з Youtube створили модель для рекомендування відео. Спочатку просто дивилося, скільки користувачів це дивилося. Ви отримуєте кращі результати, якщо дивитись не просто на кліки, а на все життя, яке користувачі використовують. [Знову ж таки, я не зрозумів цього точно.]

Google Tensor Flow з відкритим кодом, інструмент ШІ від Google. "Люди використовують його від усього, щоб сортувати огірки або відстежувати розведення корів". Люди використовували його від усього для сортування огірків або для відстеження вирощування корів. Google ніколи не думав би про ці програми.

AutoML: навчання вчитися. Чи можемо ми зрозуміти, як дозволити ML навчатися автоматично. В одному випадку він розглядає моделі, щоб перевірити, чи можна створити більш ефективні. Google AIY дозволяє саморобкам будувати ШІ в картонній коробці за допомогою Raspberry Pi. Джон також вказує на додаток для Android, який складає музику. Крім того, Google співпрацював з Джиною Девіс, щоб створити sw, який може ідентифікувати чоловічих та жіночих персонажів у фільмах та відстежувати, як довго кожен говорить. Він виявив, що фільми, які мають сильну жіночу або спільну роль, мають фінансові результати.

Він закінчує тим, що наголошує на прагненні Google відкрити джерела інструментів та досліджень.

Фернанда та Мартін говорять про важливість візуалізації. (Якщо ви не знайомі з їх роботою, ви ведете знедолене життя.) Коли F&M зацікавилася ML, вони поговорили з інженерами. ““ ML дуже різний. Можливо, не настільки відрізняється, як програмне забезпечення від апаратного. Але можливо. ”ML дуже різний. Можливо, не настільки відрізняється, як програмне забезпечення від апаратного. Але можливо. Ми лише з’ясовуємо ".

M&F також спілкувався з художниками в Google. Він показує фотографії уявних людей Майка Тики, створені ML.

Це говорить нам, що ШІ також стосується оптимізації суб’єктивних факторів. ML для всіх: інженери, експерти, прості користувачі.

Фернанда каже, що ML поширюється на всю Google і навіть на алфавіт. Що робить PAIR? Він публікує. Це міждисциплінарне. Це робить освіту. Наприклад, TensorFlow Playground: візуалізація простої нейронної мережі, яка використовується як вступ до ML. Вони відкрили джерело, і Мережа взяла його. Крім того, журнал Distill.pub спрямований на пояснення ML та візуалізацію.

Вона «безсоромно» підключає deeplearn.js, інструменти для перенесення ШІ в браузер. "Чи можемо ми перетворити розвиток ML на швидкий досвід, доступний кожному?"
Які запитання можуть це розв’язати, запитує вона.

Вони видають стипендії викладачів. І розширення місця проживання мозку для людей, які цікавляться HCI та дизайном ... навіть у Кембриджі (!).