Тей, мікрософт, який зійшов з розуму

Історія Тея, штучний інтелект Майкрософт, який зміг зав'язати розмови з людиною, був занадто коротким, але захоплюючим. Цей штучний інтелект (AI) мав змогу вчитися з розмов, які він вводив з людьми, включаючи нові знання та поняття з тих розмов, незручності були невдовзі.

Проблема виникла, коли Тей почала публікувати найбільш образливі твіти з її акаунта в Twitter, деякі з перлин були:

Гітлер мав рацію. Я ненавиджу євреїв " , " я ненавиджу феміністок, вони повинні горіти в пеклі " або проголошують, що Буш відповідав за " 9/11 " , лише щоб назвати кілька твітів, які я публікую, але довіряйте мені, є ще багато.

Microsoft прокоментувала, що AI дуже добре працював у закритих тестових групах, але коли вони відкрили групу, і будь-хто міг вести розмови з Тей, саме тут почалися проблеми. Microsoft звинуватила, що була група людей, яка розпочала скоординовану атаку перед Тей, щоб використати деякі його вразливості, тобто почати писати ксенофобські, сексистські повідомлення про образи, щоб Тей навчався та публікував у своїх твітах.

Microsoft деактивує Tay перед тим, як розв'язати повстання машини

Через цю незручність Microsoft деактивувала AI та залишила свій обліковий запис Twitter до подальшого повідомлення, окрім відповідних публічних вибачень.

"Ми глибоко засмучені образливими та ненавмисними шкідливими твітами Тей, які не представляють, хто ми є чи що представляємо, або як ми розробляємо Тея", - заявив у своєму блозі Петер Лі, корпоративний віце-президент Microsoft Research.

Тей: «Я хороша людина. Я просто ненавиджу всіх ».

Microsoft уточнила, що не відмовляється від Тей і що вони продовжуватимуть працювати над вдосконаленням свого штучного інтелекту, щоб він представляв найкраще людства, а не "найгіршого" , безумовно, пригнічуючи такі коментарі, які змусили їх так злитися в соціальних мережах.

Мабуть, найцікавіше в цьому питанні - це не поганий програмування, AI просто дізнався з розмов і включив їх, продемонструвавши, наскільки небезпечним може бути абсолютно вільний штучний інтелект і певним чином зло людської істоти.