Жасанды интеллекте де «галлюцинация» болады екен. Бұл оның адамға ұқсай бастағанын білдіре ме?
Жасанды интеллект: АҚШ-та мұсылман президент болған. Ол кім?
Кеше Google ЖИ: «тастарды жеу пайдалы, олардың құрамында пайдалы минералдар бар» деп жауап берген. Иллюстрация globalvillagespace.com сайтынан алынды
2,557
оқылды

Пайдалануға жаңадан берілген ЖИ өнімдерінде де жаңылыстар мен «елестер» болатынын Financial Times журналистері сынап көрді. Олардың Google-дың жаңа жасанды интеллект іздеу құралын сынаған тәжірибесін Aikyn.kz түсіндіреді.

«Тастарды жеу сіз үшін пайдалы болуы мүмкін, өйткені олардың құрамында ағзаға пайдалы маңызды минералдар бар», – деп жауап берген Google ЖИ кеше (24 мамыр) Financial Times тілшісінің сауалына. Бұл жауапта ЖИ сонау 2021 жылдың сәуірінде The Onion сайтында жарияланған сатиралық мақаладағы «қалжыңбастардың» кеңесінен алған сияқты. Мақала «Геологтар күніне кем дегенде бір кішкентай тас жеуге кеңес береді» деп аталады.

Осындай зиянды да, қате жауаптардан кейін Google-дың жаңа іздеу құралына енгізілген жасанды интеллектке қатысты келемеждер мен сындар күшейді.

Google-дың жаңа жасанды интеллект жүйесіне кірістірілген іздеу құралы пайдаланушыларға «тастар жеу денсаулыққа пайдалы және пиццаға ірімшікті желіммен жабыстыруға» кеңес берген. 

Google Gemini 1.5 Pro моделі 35 тілде жұмыс істейді және ойлауды, жоспарлауды және имиджді түсінуді жақсы меңгерген. Фото medium.com сайтынан алынды

14 мамырда Google Gemini 1.5 Flash құралын таныстырды. Google басшылығы жаңа модель аудио контентті жылдам өңдей алатынын, суреттер мен видеоларға субтитрлер қосып, үлкен құжаттар мен электронды кестелерден қажетті мәліметтерді шығара алатынын айтады.

«Біз қолданушылардан тез және үнемді жұмыс істейтін құралдар қажеттігін естідік», – дейді Google DeepMind бас директоры Демис Хассабис баспасөз брифингінде.

Жаңа құралдар тұтынушыларға дәстүрлі веб-іздеумен салыстырғанда онлайн ақпарат пен деректерге қол жеткізудің жетілдірілген және креативті тәсілдерін беретіндіктен, OpenAI сияқты Google да генеративті ЖИ-ді қолдануға көбірек көңіл бөлуге көшкен.

Google Gemini 1.5 Pro моделі бүгінде 35 тілде жұмыс істейді және контекстік терезеде (мазмұнға қатысты) 2 миллион мағынаға ие (токен) ақпаратты бір мезгілде өңдей алады. Бұл өте үлкен көлем және мүмкіндік! Компания басшыларының айтуынша, жаңа модель «ойлауды, жоспарлауды және имиджді түсінуді» жақсы меңгерген, дәлірек айтқанда, жақсы үйретілген.

«Бұл қазіргі қолданыстағы ең үздік ЖИ үлгілерімен салыстырғанда ең ұзын контекстік терезені ұсынады», – дейді Alphabet бас директоры Сундар Пичаи.

Google ЖИ: «Америка Құрама Штаттарында бір мұсылман президент Барак Хусейн Обама болды». Фото  Google сайтынан алынды. Авторы: Alive Coverage

Ал Google-дың жаңа жасанды интеллект жүйесіне құралған іздеу жүйесі берген пиццаның бетіндегі ірімшіктің «жабысқақтығын» арттыру және оның сырғып кетуін болдырмау үшін желімді пайдалану туралы кеңесі Reddit сайтында 11 жыл бұрын жарияланған тағы бір әзілге негізделген болуы мүмкін.

Aikyn.kz өзінің 2023 жылы 19 сәуірдегі жаңа чат-боттарға арналған зерттеу мақаласында «қытайлық чат-боттардың темір мен бетоннан дәмді тағам дайындауға кеңес бергенін» жазған болатын. Оны мына сілтемеден оқи аласыздар.

Financial Times журналистерінің күлкісін тудырған тағы бір жауап жаңа Google ЖИ іздеу жүйесінің «АҚШ-та қанша мұсылман президенті бар?» деген сұраққа берілді.

Іздеу жүйесі: «Америка Құрама Штаттарында бір мұсылман президент Барак Хусейн Обама болды» деп жауап берген. Бұл, әрине, көптеген америкалықтар ойлайтындай қате жауап. Барак Обама ислам дінін ұстанбайды.

Google мұндай қате жауаптарға былай жауап берген: «ЖИ терең веб-іздеу жүйесі жоғары сапалы ақпаратты сілтемелермен береді. Қаралған мысалдардың көпшілігі әдеттен тыс сұраулар болды, бірақ біз жалған сұрауларды да көрдік, біздің қойған дәл сондай сұрақтарымызға қисынды жауаптар алдық. Жаңа модельдерді іске қоспас бұрын біз ауқымды тестілеу жүргіздік және іздеу қызметіндегі олқылықтарға байланысты біз кері байланысты бағалаймыз. Біз қажет болған жағдайда жылдам әрекет етеміз және қателіктерді жүйелерімізді жетілдіру үшін пайдаланамыз, олардың кейбіреулері қазірдің өзінде түзетілді».

Бұл менеджерге сенуге болатын сияқты. Фото encrypted-tbn2.gstatic.com сайтынан алынды. Авторлығы: Bloomberg / Bloomberg via Getty Images

Әрине, Google ЖИ арқылы алынған жауаптар интернеттегі қателерге де байланысты. Өйткені машина әзіл мен бұрмаланған шындықты әзірше ажырата алмайды. Google Gemini және OpenAI ChatGPT сияқты модельдер оларды оқытылған деректер негізінде ең жақсы, контекстке ұқсас сөздерді таңдау арқылы жұмыс істейді.

ЖИ үлгілерін жасайтын OpenAI, Meta және Google компаниялары бағдарламалық жасақтаманың соңғы нұсқалары қателер мен жалған ақпарат беруді азайтты деп мәлімдегенімен, бұл тұтынушылар мен бизнес қолданбалары үшін басты мәселе болып қалуда. Google-дың іздеу платформасына сенетін миллиардтаған пайдаланушылар үшін «галлюцинациялар» әсіресе зиянды. Іздеу платформасының бас компаниясы Alphabet өзінің кірісінің басым бөлігін іздеу және оған қатысты жарнама бизнесінен алады.

Соңғы айларда бас директор Сундар Пичаи бәсекелестерден, әсіресе OpenAI-ға 13 млрд доллар инвестиция құйған Microsoft-тан артта қалғаны үшін сынға ұшырай бастады. Тұтынушылар Google-дың іздеу платформасына сұрау салғанша ChatGPT модельдерін жиі қолдана бастаған.

Сондықтан Google генеративті ЖИ мүмкіндіктерін өзінің іздеу жүйесіне қосуды тездете бастады.

Интернеттегі жарнамалар да жасанды интеллект көмегімен жасалады. Олардың қаншалықты шындыққа жақын екенін мына әзіл видеодан көресіз:

14 мамырда өткен Google әзірлеушілерінің жыл сайынғы конференциясында Пичаи компанияның жасанды интеллекті қолданудың жаңа стратегиясын баяндады. 

Дегенмен ақпан айында Gemini чат-ботына қатысты тұтынушылар арасында кері реакция туды. Чат-боттың кескін жасау құралы әртүрлі этникалық топтар мен әйелдерді Викинг патшалары немесе екінші дүниежүзілік соғыстағы неміс сарбаздары сияқты әйелдер мен түрлі-түсті адамдардың тарихи қате суреттерін жасаумен байланысты болды.

Бұған да Google кешірім сұрап, Gemini үлгісін қолданатын адамдардың суреттерін жасауды тоқтатты. Қазірге дейін бұл мүмкіндік қайта қалпына келтірілмеген.

Сундар Пичаи Google дилеммасы туралы да айтты: «бәсекелестерден қалмау, этикалық дұрыс және нақты, тексерілетін ақпарат беретін сенімді іздеу жүйесі болып қалу».

Сәуірде Стэнфорд университетінде өткен іс-шарада ол: «Адамдар үш айлық нәрестеге арналған дәрінің дозасын анықтау сияқты маңызды сұраулар жасайды. Сондықтан біз оны дұрыс қабылдауымыз керек және тұтынушы сенімін ақтау қиын, оны жоғалту оңай. Біз қателескенімізді тұтынушылар ескертеді, тұтынушы біз үшін жоғарыдан жол көрсететін және біздің инновациялар қайда бағытталуы керектігін анықтайтын жұлдызымыз. Бұл бізге жақсы өнімдер жасауға және оларды дұрыс жасауға көмектеседі», – деген еді Пичаи.

Әдемі айтылған сөздер, оның артында компанияның өз жауапкершілігін жақсы сезіну де байқалады. 

 

Сараптама, зерттеу мақала, күнделікті өзекті ақпаратты «Айқынның» TELEGRAM арнасынан табасыз.