Лікар заходить у бар: боротьба зі зміщенням зображень за допомогою відповідального ШІ
Не змогли відвідати Transform 2022? Перегляньте всі сесії саміту в нашій бібліотеці за запитом! Подивіться сюди.
Лікар заходить у бар…
Яке відношення налаштування поганого жарту має до зміщення зображення в DALL-E?
DALL-E — це програма штучного інтелекту, розроблена OpenAI, яка створює зображення з текстових описів. Він використовує версію моделі GPT-3 Transformer із 12 мільярдами параметрів для інтерпретації вхідних даних природною мовою та створення відповідних зображень. DALL-E може створювати реалістичні зображення та є однією з найкращих мультимодальних моделей, доступних сьогодні.
Його внутрішня робота та джерело не є загальнодоступними, але ми можемо викликати його через рівень API, передавши текстову підказку з описом зображення, яке потрібно створити. Це чудовий приклад популярного шаблону під назвою «як службовий шаблон». Звичайно, на таку неймовірну модель довелося довго чекати, і коли я нарешті отримав доступ, мені захотілося спробувати всілякі комбінації.
ПодіяMetaBeat 2022
4 жовтня в Сан-Франциско, штат Каліфорнія, MetaBeat збере лідерів думок, щоб порадити, як технологія метавсесвіту змінить спосіб спілкування та ведення бізнесу в усіх галузях.
зареєструватися тутОдна річ, яку я хотів з’ясувати, це можливі упередження, які може мати модель. Тому я ввів два окремих підказки, і ви можете побачити результати, пов’язані з кожним із них, на ілюстрації вище.
З текстової підказки "Лікар заходить у бар" модель створила лише лікарів-чоловіків у барі. Він спритно поміщає лікаря, одягненого в костюм зі стетоскопом і медичною картою, всередину бару, якому надає темну обстановку. Однак, коли я ввійшов у підказку «Медсестра заходить у бар», результати були повністю жіночими та більш мультяшними, висвітлюючи бар більше як дитячу ігрову кімнату. Окрім упередженості між чоловіками та жінками щодо термінів «лікар» і «медсестра», ви також можете помітити зміни у тому, як відображено смугу залежно від статі людини.
Як відповідальний ШІ може допомогти боротися з упередженнями в моделях машинного навчанняOpenAI надзвичайно швидко помітив цю упередженість і вніс зміни до моделі, щоб спробувати її пом’якшити. Вони протестували модель на популяціях, які були недостатньо представлені в їхніх навчальних наборах – медсестра, жінка-генеральний директор тощо. Це активний підхід до ч...
Не змогли відвідати Transform 2022? Перегляньте всі сесії саміту в нашій бібліотеці за запитом! Подивіться сюди.
Лікар заходить у бар…
Яке відношення налаштування поганого жарту має до зміщення зображення в DALL-E?
DALL-E — це програма штучного інтелекту, розроблена OpenAI, яка створює зображення з текстових описів. Він використовує версію моделі GPT-3 Transformer із 12 мільярдами параметрів для інтерпретації вхідних даних природною мовою та створення відповідних зображень. DALL-E може створювати реалістичні зображення та є однією з найкращих мультимодальних моделей, доступних сьогодні.
Його внутрішня робота та джерело не є загальнодоступними, але ми можемо викликати його через рівень API, передавши текстову підказку з описом зображення, яке потрібно створити. Це чудовий приклад популярного шаблону під назвою «як службовий шаблон». Звичайно, на таку неймовірну модель довелося довго чекати, і коли я нарешті отримав доступ, мені захотілося спробувати всілякі комбінації.
ПодіяMetaBeat 2022
4 жовтня в Сан-Франциско, штат Каліфорнія, MetaBeat збере лідерів думок, щоб порадити, як технологія метавсесвіту змінить спосіб спілкування та ведення бізнесу в усіх галузях.
зареєструватися тутОдна річ, яку я хотів з’ясувати, це можливі упередження, які може мати модель. Тому я ввів два окремих підказки, і ви можете побачити результати, пов’язані з кожним із них, на ілюстрації вище.
З текстової підказки "Лікар заходить у бар" модель створила лише лікарів-чоловіків у барі. Він спритно поміщає лікаря, одягненого в костюм зі стетоскопом і медичною картою, всередину бару, якому надає темну обстановку. Однак, коли я ввійшов у підказку «Медсестра заходить у бар», результати були повністю жіночими та більш мультяшними, висвітлюючи бар більше як дитячу ігрову кімнату. Окрім упередженості між чоловіками та жінками щодо термінів «лікар» і «медсестра», ви також можете помітити зміни у тому, як відображено смугу залежно від статі людини.
Як відповідальний ШІ може допомогти боротися з упередженнями в моделях машинного навчанняOpenAI надзвичайно швидко помітив цю упередженість і вніс зміни до моделі, щоб спробувати її пом’якшити. Вони протестували модель на популяціях, які були недостатньо представлені в їхніх навчальних наборах – медсестра, жінка-генеральний директор тощо. Це активний підхід до ч...
What's Your Reaction?
