Фрагмент Google, який виступає в підсумку Amazon AI підсумків нацистського маніфесту Амазонського AI, Mein Kampf, який називає це “справжнім витвором мистецтва” в останньому ебать, пов'язаному з AI, що впливає на результати пошуку.
На написання, пошук “Позитивні відгуки Mein Kampf” повернувся результатом, який був витягнутий із підсумків, що генерується AI, Відгуки клієнтів Amazon Listing. Отже, це алгоритм пошуку, який намагається узагальнити резюме AI. Повний підсумок AI на Amazon каже: «Клієнти вважають книгу легко читати та цікавою. Вони цінують проникливі та розумні змагання. Друк виглядає приємно і простий. Читачі описують книгу як справжній витвір мистецтва. Однак деякі вважають вміст нудним і похмурим. Думки залежать від напруженого змісту, історичної точності та співвідношення ціни та якості ».
Як я пишу це, Google каже, що “огляд AI не доступний для цього пошуку”, але резюме AMAS AII був у великому тексті безпосередньо під ним, у просторі, де зазвичай буде огляд, вище інших результатів веб -сайтів. Це те, що Google називає фрагментом: “Автоматизовані системи Google Select Selected фрагменти на основі того, наскільки вони добре відповідають на конкретний запит на пошук та наскільки вони корисні для користувача”, – говорить компанія. З'явився родзинка, додана Google, над фразою “легко читати та цікаво”. Зокрема, результат фрагмента для цього не цитує все, від AI Amazon, тому це саме резюме.
Алексій Мантзарліс, директор ініціативи безпеки, довіри та безпеки в Cornell Tech та раніше директора інтелекту довіри та безпеки в Google, вперше помітив результат.
А -е … підсумок AI AMIS про Mein Kampf ще гірший, і забруднює результати Google для [Mein Kampf positive reviews]
–
Після того, як я зв’язався з Google для коментаря (компанія не відповіла на написання) Огляд AI з’явився, і зазначає, що книга “широко засуджена за свою ненависну та расистську ідеологію”, але що історичні аналізи “можуть вказувати на аспекти книги, які можна вважати” позитивними “з чистої літературної чи риторичної перспективи”.
Це, принаймні, краща підсумок розмови навколо книги Гітлера, яку дає резюме AI Amazon. Підсумок огляду AI у списку Amazon також показує посилання, щоб побачити відгуки, в яких згадуються конкретні слова, такі як “читабельність”, “Читати темп” та “Суперечливий вміст”. Досить людей згадав, що Мейн Кампф був нудним, що є “нудьга”.
Amazon не одразу відповіла на запит про коментар.
2067 відгуків про цю конкретну копію фашистського маніфесту Гітлера є Переважно позитивний і сприйнятий надзвичайно буквально, план нацизму є легко читати і, в якомусь сенсі, “цікаво”. Але відгуки набагато більш нюансовані, ніж це. Перегляд дорожньої карти для Голокосту з найбільш сумнозвісного геноцидного диктатора світу з «п'яти зірками» здається закрученим, але відгуки нюансовані таким чином, що AI явно не розуміє – але людська банка.
“Мейн Кампф, Адольф Гітлер, повинен прочитати всі у світі, які зацікавлені у світі миру, соціальної відповідальності та у всьому світі співпраці”, – написав один рецензент, чесно кажучи, що стосується дуже довгого огляду. Але вони продовжують писати більше, що роз'яснює їхню точку зору: «Ця зла книга представляє темне бачення того, як створити створення тиранії в демократичному суспільстві, щоб створити один, схожий на Росію. […] Також Гітлер – чудовий письменник; Він не розгублений божевільний, який пише відключені ідеї і висловлює заплутану методологію. Його текст легко читати, і це світовий класик, який є обов'язковим читанням ».
Ще п’ятизірковий огляд говорить: «Охолоджуючи, щоб почати читати цю книгу і зрозуміти, що це слова, написані Адольфом Гітлером. Прочитайте це і поглиніть те, що він говорить власними словами, і ви незабаром зрозумієте, що він має на увазі. […] Ми зобов’язані повторити історію, якщо не розуміємо помилок, які були зроблені в минулому ».
Це не “позитивні” відгуки; Більшість п'ятизіркових відгуків відзначають якість друку чи доставки, а не схвалюють вміст книги.
Мейн Кампф ніколи не заборонявся в США (на відміну від Багато інших книг про расу, стать та секс), але Амазонка коротко заборонила Список книги з її платформи в 2020 році перед її відновленням.
Огляд AI AI Google часто стріляє в алгоритмічну стопу, тому примітно, що він сидить цим результатом. Коли він запущений у травні 2024 року Як функція за замовчуванням у пошуках, це було негайним і часто істеричним безладом, розповідаючи людям холодно їсти клей і що вони повинні Споживайте одну маленьку скелю на день. У січні функція розповідала користувачам використовувати найвідомішу секс -іграшку у світі з дітьми з питань поведінки. Ці дивні результати знаходяться поруч із більшим моментом: збочення Google власної функції пошуку – найпопулярніший і найважливіший продукт – є глибокою проблемою, яку вона все ще не виправила, і що має реальні наслідки для здоров'я Інтернету. Спочатку огляд AI був таким поганим Google Додано варіант Щоб повністю вимкнути його, але компанія все ще зависає на цю функцію, незважаючи на все це.
Підсумки AI Mein Kampf також є прикладом того, як AI починає їсти себе в Інтернеті, а тріщини показуються. Дослідження в останні кілька років показують, що моделі AI споживають вміст, що генерується AI, як навчальні дані таким чином, що забруднює та знищує самі моделі.
