Відмінності між версіями «Портфоліо проекту "Штучний інтелект" Михайлюка Олександра»
7704102 (обговорення • внесок) |
7704102 (обговорення • внесок) |
||
(не показано 5 проміжних версій цього учасника) | |||
Рядок 3: | Рядок 3: | ||
=Тема статті= | =Тема статті= | ||
− | + | Штучний інтелект - англ. Artificial intelligence, AI) — розділ комп'ютерної лінгвістики та інформатики, що опікується формалізацією проблем та завдань, які подібні до дій, які виконує людина. | |
==Опис проблеми== | ==Опис проблеми== | ||
+ | '''Ігровий штучний інтелект''' | ||
+ | |||
+ | |||
+ | Ігровий штучний інтелект (англ. Game artificial intelligence) — набір програмних методик, які використовуються у відеоіграх для створення ілюзії інтелекту в поведінці персонажів, керованих комп'ютером. Ігровий ШІ, крім методів традиційного штучного інтелекту, включає також алгоритми теорії керування, робототехніки, комп'ютерної графіки та інформатики у цілому. | ||
+ | Реалізація ШІ сильно впливає на геймплей, системні вимоги і бюджет гри, і розробники балансують між цими вимогами, намагаючись зробити цікавий і невимогливий до ресурсів ШІ малою ціною. Тому підхід до ігрового ШІ серйозно відрізняється від підходу до традиційного ШІ — широко застосовуються різного роду спрощення, обмани й емуляції. Наприклад: з одного боку, в шутерах від першої особи безпомилковий рух і миттєве прицілювання, властиве ботам, не залишає жодного шансу людині, так що ці здатності штучно знижуються. З іншого боку — боти повинні робити засідки, діяти командою й т.д., для цього застосовуються «костилі» у вигляді контрольних точок, розставлених на рівні. | ||
+ | Цитата | ||
+ | Головне завдання ШІ — не виграти в гравця, а красиво йому піддатися. | ||
+ | Тимур Бухараев, | ||
+ | Персонажів відеоігор, керованих ігровим штучним інтелектом, ділять на: | ||
+ | неігрові персонажі (англ. Non-player character — NPC) — зазвичай, ці ШІ-Персонажі є дружніми або нейтральними до людського гравця; | ||
+ | боти (англ. Bot) — ворожі до гравця ШІ-Персонажі, що наближаються за можливостями до ігрового персонажа; проти гравця в будь-який конкретний момент бореться невелика кількість ботів. Боти найскладніші в програмуванні. | ||
+ | моби (англ. Mob) — ворожі до гравця «низькоінтелектуальні» ШІ-Персонажі. Моби вбиваються гравцями у великих кількостях заради очок досвіду, артефактів або проходження території | ||
+ | |||
+ | '''Історія''' | ||
+ | |||
+ | Спочатку відеоігри й ігровий процес перебували у сфері досліджень різних учених. В 1951 році, використовуючи Ferranti Mark I, перший у світі доступний для покупки комп'ютер, в манчестерському університеті Кристофер Стречі[en] написав програму, що грала в шашки, а Дитріх Принц (англ. Dietrich Prinz) написав програму для шахів.[2]Це були одні з перших коли-небудь написаних комп'ютерних програм. Симулятор шашок, розроблений Артуром Семюелем у середині 50-х і початку 60-х років, в остаточному підсумку досяг достатньої майстерності, щоб кинути виклик чемпіонові світу. Робота над комп'ютерними шашками й шахами досягла кульмінації в 1997 році, коли комп'ютер Deep Blue виграв матч з шахів у чемпіона світу Гарі Каспарова. | ||
+ | Перші відеоігри, розроблені в 1960-х і початку 1970-х років, такі як Spacewar!, Pong і Gotcha (1973), були іграми, побудованими на дискретній логіці й строго орієнтованими на змагання (бої) двох гравців без ШІ. | ||
+ | Ігри, у яких був присутній одиночний (синглплеєрний) режим і комп'ютерні суперники, почали з'являтися в 1970-х роках. Першими помітними іграми були аркади Qwak(полювання на качок) і Pursuit (симулятор бійки). Дві текстові відеоігри 1972 року випуску, полювання на Вампуса (англ. Hunt the Wumpus) і Star Trek[en], також надавали комп'ютерних суперників. Рух ворогів був заснований на заздалегідь збережених шаблонах. | ||
+ | персонаж на світловому мотоциклі бере участь у гонці в грі GLtronВ аркадній грі 1978 року випуску Space Invaders був присутній змінюваний рівень складності, виразні шаблони руху й внутріігрові події, що залежать від хеш-Функцій, заснованих на уведенні гравця. Аркадний шутер Galaxian (1979) містив більш складні й різні рухи ворогів. | ||
+ | Культова аркада Pac-Man (1980) застосовувала ці шаблони до ігрового лабіринту, а також додавала відмінності для кожного ворога. Karate Champ (1984) додавала аналогічні шаблони поведінки до файтингів, хоча поганий ігровий ШІ підштовхнув випуск другої версії гри. | ||
+ | Ігри типу Madden Football, Earl Weaver Baseball і Tony La Russa Baseball будували свій ШІ на спробі дублювати на комп'ютері тренування або менеджмент обраної знаменитості. Групи розробників ігор Madden, Weaver і La Russa проробили велику роботу, щоб максимізувати точність цих ігор. Пізніші спортивні ігри дозволяли користувачам «налаштовувати, тюнінгувати» змінні в ігровому ШІ для створення обумовленої гравцем організаторської або тренувальної стратегії. | ||
+ | Поява нових ігрових жанрів в 1990-х роках простимулювала використання таких формальних інструментальних засобів штучного інтелекту, як скінченні автомати. стратегії реального часу (англ. RTS) ставили перед ігровим штучним інтелектом багато нових задач: неповна інформованість, знаходження шляху, прийняття рішень у реальному часі й економічне планування[3] У перших ігор цього жанру були певні проблеми. Наприклад, в одній з перших стратегій Herzog Zwei був дещо порушений пошук шляху, а в Dune II були порушені дуже важливі скінченний автомати із трьома станами для керування юнітів, внаслідок чого комп'ютерні супротивники функціонували неправильно. Наступні ігри в жанрі мали набагато кращий ігровий ШІ. | ||
+ | Пізніші ігри використовували недетерміновані методи штучного інтелекту, у межах від першого використання нейронних мереж у грі 1996 року Battlecruiser 3000AD до непередбаченої поведінки й оцінці дій гравця в таких іграх як Creatures[en] і Black & White. | ||
+ | GoldenEye 007 (1997) був одним з перших шутерів від першої особи, у якому ігрові боти реагували на рухи й дії гравця, а також використовували укриття й виконували перекати, щоб уникнути влучення в них. Боти також були здатні кидати ручні гранати у відповідний час. Пізніше творці цієї гри поліпшили ігровий ШІ в грі Perfect Dark. Важливою вадою ігрового ШІ в обох іграх було те, що боти завжди знали точне місцезнаходження гравця, навіть якщо жоден з них не бачив його. | ||
+ | Halo (2001) містив ігровий ШІ, що міг використовувати транспортні засоби й мав базові принципи командних дій. Боти могли розпізнавати такі загрози, як кинуті гранати й ворожі транспортні засоби, що наступають, і відповідно могли переміщатися з небезпечної зони, створюваної цими загрозами. | ||
+ | Шутер від першої особи Far Cry (2004) показував дуже просунутий ігровий ШІ для свого часу, хоча й не без помилок. Вороги могли реагувати на стиль гри гравця й намагалися по можливості оточити його. У боротьбі із гравцем боти використовували реальні воєнні тактики. Вороги не мали «читерського» ШІ в тому розумінні, що вони не знали точного місця розташування гравця, а лише діяли відповідно до позиції, яку вони запам'ятовували. | ||
+ | Значимий внесок у розвиток ігрового ШІ привніс шутер від першої особи F.E.A.R., випущений компанією Monolith Productions у 2005 році. На свій час він містив дуже «просунутий» ШІ, що був зустрінутий дуже позитивно всіма ігровими рецензентами й аналітиками. Бої в грі відбуваються в закритих приміщеннях; боти працюють у команді, використовують середовище як укриття, застосовують до гравця різні тактики залежно від ситуації, штурмують, відходять, викликають підкріплення, використовують гранати для «викурювання» гравця, адекватно реагують на гранати, кинуті гравцем[4]Рольова відеогра The Elder Scrolls IV: Oblivion використовувала дуже складний ігровий ШІ для неігрових персонажів. Неігрові персонажі мають графік формату 24/7 і досягають своїх власних цілей власними шляхами. Вони не стоять в одному місці увесь час. Вони їдять, сплять і виконують свої щоденні обов'язки. Події, що трапляються в грі, можуть змінити їхній розпорядок дня й поведінку. Вони можуть змінитися з гарного міського населення на смертельних убивць. | ||
+ | Відеогра S.T.A.L.K.E.R.: Тінь Чорнобиля, що вийшла в березні 2007 року, мала досить складний ігровий ШІ, який розроблювачі назвали «A-Life». Ця система розроблялася з 2002 року, однак у фінальній версії гри більша частина особливостей «A-Life» була «вирізана». Частково «A-Life» був дороблений в аддоні «S.T.A.L.K.E.R.: Чисте небо»2008 року випуску. Докладніше про ігровий ШІ у цих іграх можна довідатися тут.[5]Мережний кооперативний шутер від першої особи Left 4 Dead (2008) використовує нову систему ігрового ШІ з назвою «Режисер» (англ. The Director).[6] «Режисер» використовується для процедурного генерування різного ігрового досвіду (experience) для гравців при кожному запуску гри. Розроблювачі гри називають спосіб, відповідно до якого працює «Режисер», «процедурним наративом». Замість строго встановлених і статичних рівнів складності «Режисер» аналізує дії й «ступінь виживання» гравців і відповідно до цього динамічно додає наступні події, роблячи гру цікавою, але також і прохідною. Проте, поряд з «Режисером» у грі присутні й рівні складності, які впливають на стійкість і ступінь ушкоджень ігрових персонажів[7][8]Ігровий штучний інтелект продовжує розвиватися з метою досягти такого рівня, щоби гравець був нездатний відрізнити комп'ютерного суперника від людського. | ||
+ | ПоглядиДеякі ігрові програмісти розглядають будь-яку методику, що використовується для створення ілюзії інтелекту, як частину ігрового ШІ. Однак цей погляд є спірним, тому що він включає методики, які широко використовуються поза рушієм ігрового ШІ. Наприклад, інформація про потенційні майбутні зіткнення є важливою інформацією, що вводиться в алгоритми, які допомагають створювати ботів, що будуть досить розумними для уникнення зіткнень з об'єктами. Але ті ж самі методики виявлення зіткнень є необхідним і одним із найважливіших компонентів фізичного рушія. Точно так само результати іспитового напрямку погляду бота (Line of sight (gaming)[en]) звичайно є важливими даними, що вводяться в систему прицілювання бота; разом із тим ці дані широко використовуються при рендерингу в графічному рушії. Фінальним прикладом є скриптинг, що може бути зручним інструментом для всіх аспектів ігрової розробки, однак часто сильно асоціюється з контролюванням поведінки неігрових персонажів. | ||
+ | Пуристи вважають, що вираз «штучний інтелект» у терміні «ігровий штучний інтелект» є перебільшенням, оскільки ігровий ШІ описує не інтелект і використовує тільки деякі з напрямків академічної науки «Штучний інтелект». Беручи до уваги, що «реальний» ШІ звертається до галузей систем, що самонавчаються, і прийняття рішень, які базуються на довільному уведенні даних, і навіть до остаточної мети «сильного» ШІ, що може мислити, ігровий ШІ часто складається з декількох емпіричних правил і евристики, яких досить, щоб надати гравцеві гарний геймплей, відчуття й враження від гри. | ||
+ | Покращення розуміння академічного ШІ розробниками ігор і зростаючий інтерес академічного співтовариства до відеоігор викликає питання, наскільки й у якій мірі ігровий ШІ відрізняється від класичного. Однак, істотні розходження між різними прикладними галузями штучного інтелекту означають, що ігровий ШІ все ще може бути розглянутий як окрема підгалузь ШІ. Зокрема, здатність «законним» чином вирішити деякі проблеми ШІ в іграх через обман утворює важливе розходження. Наприклад, виведення позиції невидимого об'єкта з минулих спостережень може бути важкою проблемою, коли ШІ застосований до робототехніки, але у відеоіграх неігровий персонаж може просто шукати позицію в ігровому графі. Такий обман може призвести до нереалістичної поведінки й тому не завжди бажаний. Але його здатність служити для розрізнення ігрового ШІ веде до нових проблем, таких як: коли і як використовувати обман. | ||
+ | |||
+ | '''Використання''' | ||
+ | |||
+ | Евристичні алгоритми ігрового штучного інтелекту використовуються в широкій розмаїтості в багатьох галузях усередині гри. Найочевидніше застосування ігрового ШІ проявляється в контролюванні неігрових персонажів, хоча скриптинг теж є дуже розповсюдженим способом контролю. Пошук шляху є іншим широко розповсюдженим застосуванням ігрового ШІ, — він особливо проявляється в стратегіях реального часу. Пошук шляху є методом для визначення того, як неігровому персонажеві перейти з однієї точки на мапі до іншої: потрібно враховувати ландшафт, перешкоди й, можливо, «туман війни». Ігровий ШІ також пов'язаний із динамічним ігровим балансуванням. | ||
+ | Концепція непередбачуваного (англ. emergent) ШІ була недавно досліджена в таких іграх як Creatures, Black & White і Nintendogs і в таких іграшках, як тамагочі. «Свійські тварини» у цих іграх мають здатність «навчатися» на діях, вчинених гравцем, і їхня поведінка змінюється відповідно. У той час, як ці рішення взяті з обмеженої множини можливих рішень, це дійсно часто дає бажану ілюзію інтелекту по іншу сторону екрана. | ||
+ | |||
+ | Штучний інтелект у медицині: комп'ютер знає, що з вами не так | ||
+ | Сьогодні багато технологій створюються на базі штучного інтелекту. Медицина не лишилась осторонь цих тенденцій. Можливості застосування для діагностики й лікування досить різноманітні, а іноді справді курйозні. | ||
+ | |||
+ | |||
+ | '''Штучний інтелект у медицинi''' | ||
+ | |||
+ | Помилок припускаються всі. Але в деяких галузях помилкові рішення - вкрай небезпечні. Приміром, хибний діагноз у медицині може виявитися фатальним. І тут на допомогу людям приходять машини: у майбутньому завдяки широкому застосуванню штучного інтелекту кількість помилкових діагнозів та й взагалі помилок у сфері охорони здоров'я має істотно скоротитися. | ||
+ | Зараз багато досвідчених медиків досить скептично оцінюють можливості застосування штучного інтелекту в лікарнях та клініках і критикують це. Попри таке негативне ставлення, дослідники в багатьох лабораторіях, розташованих у різних куточках планети, намагаються з'ясувати перспективи подальшого застосування штучного інтелекту в медицині. А таких можливостей, як виявилося, немало. | ||
+ | |||
+ | |||
+ | '''Винюхати хворобу''' | ||
+ | |||
+ | https://www.youtube.com/watch?v=okqTz8GLfa4 | ||
+ | Під час дихання людини виділяється чимало речовин, котрі можуть сприяти виявленню багатьох хвороб. Річ у тім, що людський ніс не настільки чутливий, щоб відчути силенну кількість усіляких сполук, що виділяються під час дихання. Тож британські вчені розробили технологію із застосуванням штучного інтелекту, чутливішу за ніс людини.Головний принцип полягає в застосуванні різних датчиків. На основі отриманих результатів машинний інтелект створює тривимірну графіку. Приміром, деякі молекули, котрі виділяються разом з повітрям із людського організму, вказують на те, що людина хвора на рак. Датчики можуть виявити це небезпечне захворювання на ранній стадії. Крім того, вони досить швидко навчаються. Завдяки тому, що комп'ютери зберігають дані аналізів багатьох пацієнтів та порівнюють їх з висновком медиків, вони можуть завжди дедалі більш безпомилково діагностувати пацієнтів. | ||
+ | |||
+ | '''Проблеми з болем''' | ||
+ | |||
+ | https://www.youtube.com/watch?v=bqQgeWPtSso | ||
+ | Де ж воно все-таки болить? Це питання, мабуть, чув багато хто з тих, кому доводилося побувати в лікаря. Але не завжди легко точно визначити те місце, котре й справді є причиною болю, або описати це лікарю біль-менш точно. Приміром, дітям та пацієнтам з такими психічними розладами як слабоумство іноді дається досить складно правильними словами описати своє суб'єктивне сприйняття болю. І тут знову на допомогу приходить штучний інтелект, наділений функцією автоматичного розпізнання болю. | ||
+ | Принцип такий: датчики з украй високою роздільною здатністю вимірюють те, як тіло пацієнтів реагує на біль. Комп'ютер зважає на реакцію шкіри, м'язів, дихання та навіть на кровообіг, а вже виходячи з отриманих даних робиться розрахунок суб'єктивного больового відчуття. | ||
+ | |||
+ | '''Сканування обличчя та генотерапія''' | ||
+ | |||
+ | Ще одна сфера застосування - сканування обличчя. Мета: штучний інтелект має допомогти медикам виявляти рідкісні патології на генному рівні у дітей і саме за допомогою точного сканування обличчя. | ||
+ | Штучний інтелект у медицині | ||
+ | Сканування обличчя допомагає виявити генетичні вади в дітей | ||
+ | Отримані дані порівнюють зі зразками, що містяться в базі даних, де описані всі генні патології. Приміром, деякі генетичні хвороби можна розпізнати за допомогою форми голови та за положенням очей. | ||
+ | |||
+ | '''Завчасно виявити ризики''' | ||
+ | |||
+ | Помилковий діагноз як правило має фатальні наслідки. Але штучний інтелект може зменшити статистику хибних оцінок та діагнозів. Та хоч електронний розум і не зможе замінити лікаря, але в деяких сферах це - неабияка допомога. | ||
+ | Саме в онкодіагностиці, особливо в випадку раку шкіри, штучний інтелект вже встиг зарекомендувати себе як украй корисний помічник лікарів. Нещодавно одне дослідження підтвердило, що машина, котру "натренували" багатьма зображеннями вкрай небезпечного виду раку, менше помилялася під час виявлення потенційно небезпечних меланом, ніж досвідченні дерматологи. | ||
+ | |||
+ | '''Рак шкіри''' | ||
+ | |||
+ | Вже зараз комп'ютер може досить добре виявити небезпечні меланоми | ||
+ | Штучному інтелекту знайшлося застосування й в такій галузі як гастроентерологія. Приміром, такі технології мають визначати, чи варто видаляти поліпи, що виникли на слизовій кишківника, чи ні. | ||
+ | |||
+ | |||
+ | '''Майбутнє війни: як технології можуть змінити поле бою і бійців''' | ||
+ | |||
+ | Історично поява нових технологій завжди впливала на характер і методи ведення війни: свого часу залізна дорога й літаки повністю революціонізували військову логістику. Поява ядерної зброї, в свою чергу, кардинально змінила правила гри. Викликом сьогодення ж стали автономні «роботи-вбивці»: чому їх закликають заборонити ще до початку широкого використання та яку роль у цьому відіграють наддержави й приватні компанії? | ||
+ | Провідні світові науковці та технологи тривалий час висловлюють занепокоєння останніми тенденціями в розвитку роботобудування й штучного інтелекту. Особливим приводом для занепокоєння є ніщо інше як автономна зброя – роботи, які діють на основі штучного інтелекту й здатні самостійно виконувати військові операції, тобто вирішувати, кого вбивати на полі бою.Такі роботи поки що не беруть участі в сучасних арміях, але з огляду на останні розробки в сфері штучного інтелекту, багато хто вважає, що це лише питання часу. Військова автоматизація загалом не є чимось новим, але сьогодні за нею так чи інакше завжди стоїть людина. Більшість експертів погоджується, що в разі використання летальної зброї залучення людини є просто необхідним, йдеться у новому звіті The Economist, присвяченому революції військової робототехніки. | ||
+ | Discover Magazine: «Забудьте про заборони: ООН «застрягла» на визначенні «роботів-убивць» | ||
+ | View image on Twitter | ||
+ | View image on Twitter | ||
+ | |||
+ | Discover Magazine | ||
+ | ✔ | ||
+ | @DiscoverMag | ||
+ | |||
+ | Forget Bans: UN stuck on defining killer robots: http://bit.ly/2Ax82qw @jeremyhsu | ||
+ | 17 | ||
+ | 5:12 PM - Jan 28, 2018 | ||
+ | See Discover Magazine's other Tweets | ||
+ | Twitter Ads info and privacy | ||
+ | «Автономна зброя – скринька Пандори» | ||
+ | Відомий винахідник Ілон Маск, вчений Стівен Хокінг та «батько» Microsoft Білл Ґейтс погоджуються з тим, що в разі неправильного поводження зі штучним інтелектом він може перетворитися на загрозу існуванню людства. Маск разом зі 115 іншими лідерами в сфері штучного інтелекту навіть підписали відкритий лист в ООН, що закликає покласти край гонці озброєння в сфері автономної зброї ще до того, як її використання набуде поширення. | ||
+ | «Ми не маємо багато часу. Тільки-но ця скринька Пандори відкриється, її вже буде складно зачинити», – йшлося в листі. | ||
+ | Низка неурядових організацій заснували «Кампанію зупинки «роботів-вбивць» і активно працюють, щоб зупинити використання автономної летальної зброї. | ||
+ | Жартівливий макет робота під час заснування «Кампанії зупинки «роботів-убивць» у Лондоні, 2013 рік | ||
+ | Жартівливий макет робота під час заснування «Кампанії зупинки «роботів-убивць» у Лондоні, 2013 рік | ||
+ | |||
+ | '''В чому проблема?''' | ||
+ | |||
+ | Причин для занепокоєння досить багато. Серед них, наприклад, те, що як і будь-яку комп’ютерну систему, «роботів-убивць» можна буде «зламати» за допомогою кібератак. По-друге, що такі роботи можуть просто вийти з ладу й призвести до масштабної катастрофи. | ||
+ | «Немає ніякої гарантії, що будь-яка технологічна система працюватиме бездоганно. Але коли ви дасте цій системі летальну зброю, небезпека зростає в багато разів», – зазначив науковець Ульрік Франк для Deutsche Welle. | ||
+ | По-третє, в разі порушення гуманітарного права питання полягатиме в тому, хто саме нестиме за це відповідальність, адже робот діятиме самостійно. Більше того, така зброя може потрапити до рук недержавних акторів, включаючи терористичні угруповання. | ||
+ | Основні гравці: інтереси наддержав та приватних компаній | ||
+ | Штучний інтелект сьогодні є надзвичайно важливим компонентом стратегії національної безпеки для наддержав. Не так давно російський президент Володимир Путін заявив про те, що штучний інтелект має колосальний потенціал і що той, хто зможе стати лідером у цій сфері, стане правителем світу. Хоча він і пообіцяв ділитися отриманими знаннями в цій сфері з іншими країнами, багато хто передбачає справжню гонку за передові технології штучного інтелекту. | ||
+ | Наприкінці минулого року в Женеві цілий тиждень тривали обговорення використання штучного інтелекту в озброєннях, після чого у виданні Business Insider з’явилася стаття про ігнорування Росією будь-якої заборони ООН на «роботів-убивць». На думку Росії, заборона летальних автономних систем озброєнь «обмежує свободу використання переваг автономних технологій, що є майбутнім людства», мовиться у статті. Але навіть заборони використання певних типів зброї історично не були перешкодою для «поганих хлопців», зауважує автор. | ||
+ | Є також думки, що найбільші амбіції домінувати в індустрії до 2030 року має саме Китай, особливо зважаючи на те, що за три десятиріччя економічного зростання він цілком може собі це дозволити. | ||
+ | Багато хто звертає увагу й на те, що саме приватні компанії стоять за стрімким розвитком автономної зброї. Корпорації зацікавлені в прибутках, і вони активно діятимуть для пришвидшення розвитку цих технологій. | ||
+ | |||
+ | «Це дилема контролю над озброєннями. Чим кориснішою буде потенційна зброя для військових, тим важче буде її регулювати або ж заборонити», – пояснює Deutsche Welle професор політичних наук в Університеті Пенсильванії Майкл Горовіц. | ||
+ | «Це дилема контролю над озброєннями. Чим кориснішою буде потенційна зброя для військових, тим важче буде її регулювати або ж заборонити», – пояснює Deutsche Welle професор політичних наук в Університеті Пенсильванії Майкл Горовіц. | ||
+ | |||
+ | The Economist | ||
+ | ✔ | ||
+ | @TheEconomist | ||
+ | · Jan 27, 2018 | ||
+ | Replying to @TheEconomist | ||
+ | |||
+ | Swarming robots will fight alongside armies, performing a range of duties from reconnaissance to strike missions http://econ.st/2ngd99M | ||
+ | |||
+ | |||
+ | nge the nature of warfare | ||
+ | economist.com | ||
+ | |||
+ | The Economist | ||
+ | ✔ | ||
+ | @TheEconomist | ||
+ | |||
+ | Killer robots can no longer be dismissed. Autonomous weapons could remove human decision making from the loop altogether http://econ.st/2FlPoVa | ||
+ | 102 | ||
+ | 3:45 PM - Jan 27, 2018 | ||
+ | Twitter Ads info and privacy | ||
+ | |||
+ | Autonomous weapons are a game-changer | ||
+ | AI-empowered robots pose entirely new dangers, possibly of an existential kind | ||
+ | economist.com | ||
+ | 67 people are talking about this | ||
==Блог до проекту== | ==Блог до проекту== | ||
− | https://mablogto.blogspot.com | + | https://mablogto.blogspot.com |
==Мультимедійна презентація== | ==Мультимедійна презентація== | ||
− | + | https://drive.google.com/file/d/15Eo1K3q-kZxR0bYAi54OjwsGHrhCGw-v/view?usp=sharing | |
==Календар подій проекту:== | ==Календар подій проекту:== |
Поточна версія на 11:12, 18 грудня 2018
Зміст
Тема статті
Штучний інтелект - англ. Artificial intelligence, AI) — розділ комп'ютерної лінгвістики та інформатики, що опікується формалізацією проблем та завдань, які подібні до дій, які виконує людина.
Опис проблеми
Ігровий штучний інтелект
Ігровий штучний інтелект (англ. Game artificial intelligence) — набір програмних методик, які використовуються у відеоіграх для створення ілюзії інтелекту в поведінці персонажів, керованих комп'ютером. Ігровий ШІ, крім методів традиційного штучного інтелекту, включає також алгоритми теорії керування, робототехніки, комп'ютерної графіки та інформатики у цілому.
Реалізація ШІ сильно впливає на геймплей, системні вимоги і бюджет гри, і розробники балансують між цими вимогами, намагаючись зробити цікавий і невимогливий до ресурсів ШІ малою ціною. Тому підхід до ігрового ШІ серйозно відрізняється від підходу до традиційного ШІ — широко застосовуються різного роду спрощення, обмани й емуляції. Наприклад: з одного боку, в шутерах від першої особи безпомилковий рух і миттєве прицілювання, властиве ботам, не залишає жодного шансу людині, так що ці здатності штучно знижуються. З іншого боку — боти повинні робити засідки, діяти командою й т.д., для цього застосовуються «костилі» у вигляді контрольних точок, розставлених на рівні.
Цитата
Головне завдання ШІ — не виграти в гравця, а красиво йому піддатися.
Тимур Бухараев,
Персонажів відеоігор, керованих ігровим штучним інтелектом, ділять на:
неігрові персонажі (англ. Non-player character — NPC) — зазвичай, ці ШІ-Персонажі є дружніми або нейтральними до людського гравця;
боти (англ. Bot) — ворожі до гравця ШІ-Персонажі, що наближаються за можливостями до ігрового персонажа; проти гравця в будь-який конкретний момент бореться невелика кількість ботів. Боти найскладніші в програмуванні.
моби (англ. Mob) — ворожі до гравця «низькоінтелектуальні» ШІ-Персонажі. Моби вбиваються гравцями у великих кількостях заради очок досвіду, артефактів або проходження території
Історія
Спочатку відеоігри й ігровий процес перебували у сфері досліджень різних учених. В 1951 році, використовуючи Ferranti Mark I, перший у світі доступний для покупки комп'ютер, в манчестерському університеті Кристофер Стречі[en] написав програму, що грала в шашки, а Дитріх Принц (англ. Dietrich Prinz) написав програму для шахів.[2]Це були одні з перших коли-небудь написаних комп'ютерних програм. Симулятор шашок, розроблений Артуром Семюелем у середині 50-х і початку 60-х років, в остаточному підсумку досяг достатньої майстерності, щоб кинути виклик чемпіонові світу. Робота над комп'ютерними шашками й шахами досягла кульмінації в 1997 році, коли комп'ютер Deep Blue виграв матч з шахів у чемпіона світу Гарі Каспарова. Перші відеоігри, розроблені в 1960-х і початку 1970-х років, такі як Spacewar!, Pong і Gotcha (1973), були іграми, побудованими на дискретній логіці й строго орієнтованими на змагання (бої) двох гравців без ШІ. Ігри, у яких був присутній одиночний (синглплеєрний) режим і комп'ютерні суперники, почали з'являтися в 1970-х роках. Першими помітними іграми були аркади Qwak(полювання на качок) і Pursuit (симулятор бійки). Дві текстові відеоігри 1972 року випуску, полювання на Вампуса (англ. Hunt the Wumpus) і Star Trek[en], також надавали комп'ютерних суперників. Рух ворогів був заснований на заздалегідь збережених шаблонах. персонаж на світловому мотоциклі бере участь у гонці в грі GLtronВ аркадній грі 1978 року випуску Space Invaders був присутній змінюваний рівень складності, виразні шаблони руху й внутріігрові події, що залежать від хеш-Функцій, заснованих на уведенні гравця. Аркадний шутер Galaxian (1979) містив більш складні й різні рухи ворогів. Культова аркада Pac-Man (1980) застосовувала ці шаблони до ігрового лабіринту, а також додавала відмінності для кожного ворога. Karate Champ (1984) додавала аналогічні шаблони поведінки до файтингів, хоча поганий ігровий ШІ підштовхнув випуск другої версії гри. Ігри типу Madden Football, Earl Weaver Baseball і Tony La Russa Baseball будували свій ШІ на спробі дублювати на комп'ютері тренування або менеджмент обраної знаменитості. Групи розробників ігор Madden, Weaver і La Russa проробили велику роботу, щоб максимізувати точність цих ігор. Пізніші спортивні ігри дозволяли користувачам «налаштовувати, тюнінгувати» змінні в ігровому ШІ для створення обумовленої гравцем організаторської або тренувальної стратегії. Поява нових ігрових жанрів в 1990-х роках простимулювала використання таких формальних інструментальних засобів штучного інтелекту, як скінченні автомати. стратегії реального часу (англ. RTS) ставили перед ігровим штучним інтелектом багато нових задач: неповна інформованість, знаходження шляху, прийняття рішень у реальному часі й економічне планування[3] У перших ігор цього жанру були певні проблеми. Наприклад, в одній з перших стратегій Herzog Zwei був дещо порушений пошук шляху, а в Dune II були порушені дуже важливі скінченний автомати із трьома станами для керування юнітів, внаслідок чого комп'ютерні супротивники функціонували неправильно. Наступні ігри в жанрі мали набагато кращий ігровий ШІ. Пізніші ігри використовували недетерміновані методи штучного інтелекту, у межах від першого використання нейронних мереж у грі 1996 року Battlecruiser 3000AD до непередбаченої поведінки й оцінці дій гравця в таких іграх як Creatures[en] і Black & White. GoldenEye 007 (1997) був одним з перших шутерів від першої особи, у якому ігрові боти реагували на рухи й дії гравця, а також використовували укриття й виконували перекати, щоб уникнути влучення в них. Боти також були здатні кидати ручні гранати у відповідний час. Пізніше творці цієї гри поліпшили ігровий ШІ в грі Perfect Dark. Важливою вадою ігрового ШІ в обох іграх було те, що боти завжди знали точне місцезнаходження гравця, навіть якщо жоден з них не бачив його. Halo (2001) містив ігровий ШІ, що міг використовувати транспортні засоби й мав базові принципи командних дій. Боти могли розпізнавати такі загрози, як кинуті гранати й ворожі транспортні засоби, що наступають, і відповідно могли переміщатися з небезпечної зони, створюваної цими загрозами. Шутер від першої особи Far Cry (2004) показував дуже просунутий ігровий ШІ для свого часу, хоча й не без помилок. Вороги могли реагувати на стиль гри гравця й намагалися по можливості оточити його. У боротьбі із гравцем боти використовували реальні воєнні тактики. Вороги не мали «читерського» ШІ в тому розумінні, що вони не знали точного місця розташування гравця, а лише діяли відповідно до позиції, яку вони запам'ятовували. Значимий внесок у розвиток ігрового ШІ привніс шутер від першої особи F.E.A.R., випущений компанією Monolith Productions у 2005 році. На свій час він містив дуже «просунутий» ШІ, що був зустрінутий дуже позитивно всіма ігровими рецензентами й аналітиками. Бої в грі відбуваються в закритих приміщеннях; боти працюють у команді, використовують середовище як укриття, застосовують до гравця різні тактики залежно від ситуації, штурмують, відходять, викликають підкріплення, використовують гранати для «викурювання» гравця, адекватно реагують на гранати, кинуті гравцем[4]Рольова відеогра The Elder Scrolls IV: Oblivion використовувала дуже складний ігровий ШІ для неігрових персонажів. Неігрові персонажі мають графік формату 24/7 і досягають своїх власних цілей власними шляхами. Вони не стоять в одному місці увесь час. Вони їдять, сплять і виконують свої щоденні обов'язки. Події, що трапляються в грі, можуть змінити їхній розпорядок дня й поведінку. Вони можуть змінитися з гарного міського населення на смертельних убивць. Відеогра S.T.A.L.K.E.R.: Тінь Чорнобиля, що вийшла в березні 2007 року, мала досить складний ігровий ШІ, який розроблювачі назвали «A-Life». Ця система розроблялася з 2002 року, однак у фінальній версії гри більша частина особливостей «A-Life» була «вирізана». Частково «A-Life» був дороблений в аддоні «S.T.A.L.K.E.R.: Чисте небо»2008 року випуску. Докладніше про ігровий ШІ у цих іграх можна довідатися тут.[5]Мережний кооперативний шутер від першої особи Left 4 Dead (2008) використовує нову систему ігрового ШІ з назвою «Режисер» (англ. The Director).[6] «Режисер» використовується для процедурного генерування різного ігрового досвіду (experience) для гравців при кожному запуску гри. Розроблювачі гри називають спосіб, відповідно до якого працює «Режисер», «процедурним наративом». Замість строго встановлених і статичних рівнів складності «Режисер» аналізує дії й «ступінь виживання» гравців і відповідно до цього динамічно додає наступні події, роблячи гру цікавою, але також і прохідною. Проте, поряд з «Режисером» у грі присутні й рівні складності, які впливають на стійкість і ступінь ушкоджень ігрових персонажів[7][8]Ігровий штучний інтелект продовжує розвиватися з метою досягти такого рівня, щоби гравець був нездатний відрізнити комп'ютерного суперника від людського. ПоглядиДеякі ігрові програмісти розглядають будь-яку методику, що використовується для створення ілюзії інтелекту, як частину ігрового ШІ. Однак цей погляд є спірним, тому що він включає методики, які широко використовуються поза рушієм ігрового ШІ. Наприклад, інформація про потенційні майбутні зіткнення є важливою інформацією, що вводиться в алгоритми, які допомагають створювати ботів, що будуть досить розумними для уникнення зіткнень з об'єктами. Але ті ж самі методики виявлення зіткнень є необхідним і одним із найважливіших компонентів фізичного рушія. Точно так само результати іспитового напрямку погляду бота (Line of sight (gaming)[en]) звичайно є важливими даними, що вводяться в систему прицілювання бота; разом із тим ці дані широко використовуються при рендерингу в графічному рушії. Фінальним прикладом є скриптинг, що може бути зручним інструментом для всіх аспектів ігрової розробки, однак часто сильно асоціюється з контролюванням поведінки неігрових персонажів. Пуристи вважають, що вираз «штучний інтелект» у терміні «ігровий штучний інтелект» є перебільшенням, оскільки ігровий ШІ описує не інтелект і використовує тільки деякі з напрямків академічної науки «Штучний інтелект». Беручи до уваги, що «реальний» ШІ звертається до галузей систем, що самонавчаються, і прийняття рішень, які базуються на довільному уведенні даних, і навіть до остаточної мети «сильного» ШІ, що може мислити, ігровий ШІ часто складається з декількох емпіричних правил і евристики, яких досить, щоб надати гравцеві гарний геймплей, відчуття й враження від гри. Покращення розуміння академічного ШІ розробниками ігор і зростаючий інтерес академічного співтовариства до відеоігор викликає питання, наскільки й у якій мірі ігровий ШІ відрізняється від класичного. Однак, істотні розходження між різними прикладними галузями штучного інтелекту означають, що ігровий ШІ все ще може бути розглянутий як окрема підгалузь ШІ. Зокрема, здатність «законним» чином вирішити деякі проблеми ШІ в іграх через обман утворює важливе розходження. Наприклад, виведення позиції невидимого об'єкта з минулих спостережень може бути важкою проблемою, коли ШІ застосований до робототехніки, але у відеоіграх неігровий персонаж може просто шукати позицію в ігровому графі. Такий обман може призвести до нереалістичної поведінки й тому не завжди бажаний. Але його здатність служити для розрізнення ігрового ШІ веде до нових проблем, таких як: коли і як використовувати обман.
Використання
Евристичні алгоритми ігрового штучного інтелекту використовуються в широкій розмаїтості в багатьох галузях усередині гри. Найочевидніше застосування ігрового ШІ проявляється в контролюванні неігрових персонажів, хоча скриптинг теж є дуже розповсюдженим способом контролю. Пошук шляху є іншим широко розповсюдженим застосуванням ігрового ШІ, — він особливо проявляється в стратегіях реального часу. Пошук шляху є методом для визначення того, як неігровому персонажеві перейти з однієї точки на мапі до іншої: потрібно враховувати ландшафт, перешкоди й, можливо, «туман війни». Ігровий ШІ також пов'язаний із динамічним ігровим балансуванням. Концепція непередбачуваного (англ. emergent) ШІ була недавно досліджена в таких іграх як Creatures, Black & White і Nintendogs і в таких іграшках, як тамагочі. «Свійські тварини» у цих іграх мають здатність «навчатися» на діях, вчинених гравцем, і їхня поведінка змінюється відповідно. У той час, як ці рішення взяті з обмеженої множини можливих рішень, це дійсно часто дає бажану ілюзію інтелекту по іншу сторону екрана.
Штучний інтелект у медицині: комп'ютер знає, що з вами не так Сьогодні багато технологій створюються на базі штучного інтелекту. Медицина не лишилась осторонь цих тенденцій. Можливості застосування для діагностики й лікування досить різноманітні, а іноді справді курйозні.
Штучний інтелект у медицинi
Помилок припускаються всі. Але в деяких галузях помилкові рішення - вкрай небезпечні. Приміром, хибний діагноз у медицині може виявитися фатальним. І тут на допомогу людям приходять машини: у майбутньому завдяки широкому застосуванню штучного інтелекту кількість помилкових діагнозів та й взагалі помилок у сфері охорони здоров'я має істотно скоротитися. Зараз багато досвідчених медиків досить скептично оцінюють можливості застосування штучного інтелекту в лікарнях та клініках і критикують це. Попри таке негативне ставлення, дослідники в багатьох лабораторіях, розташованих у різних куточках планети, намагаються з'ясувати перспективи подальшого застосування штучного інтелекту в медицині. А таких можливостей, як виявилося, немало.
Винюхати хворобу
https://www.youtube.com/watch?v=okqTz8GLfa4 Під час дихання людини виділяється чимало речовин, котрі можуть сприяти виявленню багатьох хвороб. Річ у тім, що людський ніс не настільки чутливий, щоб відчути силенну кількість усіляких сполук, що виділяються під час дихання. Тож британські вчені розробили технологію із застосуванням штучного інтелекту, чутливішу за ніс людини.Головний принцип полягає в застосуванні різних датчиків. На основі отриманих результатів машинний інтелект створює тривимірну графіку. Приміром, деякі молекули, котрі виділяються разом з повітрям із людського організму, вказують на те, що людина хвора на рак. Датчики можуть виявити це небезпечне захворювання на ранній стадії. Крім того, вони досить швидко навчаються. Завдяки тому, що комп'ютери зберігають дані аналізів багатьох пацієнтів та порівнюють їх з висновком медиків, вони можуть завжди дедалі більш безпомилково діагностувати пацієнтів.
Проблеми з болем
https://www.youtube.com/watch?v=bqQgeWPtSso Де ж воно все-таки болить? Це питання, мабуть, чув багато хто з тих, кому доводилося побувати в лікаря. Але не завжди легко точно визначити те місце, котре й справді є причиною болю, або описати це лікарю біль-менш точно. Приміром, дітям та пацієнтам з такими психічними розладами як слабоумство іноді дається досить складно правильними словами описати своє суб'єктивне сприйняття болю. І тут знову на допомогу приходить штучний інтелект, наділений функцією автоматичного розпізнання болю. Принцип такий: датчики з украй високою роздільною здатністю вимірюють те, як тіло пацієнтів реагує на біль. Комп'ютер зважає на реакцію шкіри, м'язів, дихання та навіть на кровообіг, а вже виходячи з отриманих даних робиться розрахунок суб'єктивного больового відчуття.
Сканування обличчя та генотерапія
Ще одна сфера застосування - сканування обличчя. Мета: штучний інтелект має допомогти медикам виявляти рідкісні патології на генному рівні у дітей і саме за допомогою точного сканування обличчя. Штучний інтелект у медицині Сканування обличчя допомагає виявити генетичні вади в дітей Отримані дані порівнюють зі зразками, що містяться в базі даних, де описані всі генні патології. Приміром, деякі генетичні хвороби можна розпізнати за допомогою форми голови та за положенням очей.
Завчасно виявити ризики
Помилковий діагноз як правило має фатальні наслідки. Але штучний інтелект може зменшити статистику хибних оцінок та діагнозів. Та хоч електронний розум і не зможе замінити лікаря, але в деяких сферах це - неабияка допомога. Саме в онкодіагностиці, особливо в випадку раку шкіри, штучний інтелект вже встиг зарекомендувати себе як украй корисний помічник лікарів. Нещодавно одне дослідження підтвердило, що машина, котру "натренували" багатьма зображеннями вкрай небезпечного виду раку, менше помилялася під час виявлення потенційно небезпечних меланом, ніж досвідченні дерматологи.
Рак шкіри
Вже зараз комп'ютер може досить добре виявити небезпечні меланоми Штучному інтелекту знайшлося застосування й в такій галузі як гастроентерологія. Приміром, такі технології мають визначати, чи варто видаляти поліпи, що виникли на слизовій кишківника, чи ні.
Майбутнє війни: як технології можуть змінити поле бою і бійців
Історично поява нових технологій завжди впливала на характер і методи ведення війни: свого часу залізна дорога й літаки повністю революціонізували військову логістику. Поява ядерної зброї, в свою чергу, кардинально змінила правила гри. Викликом сьогодення ж стали автономні «роботи-вбивці»: чому їх закликають заборонити ще до початку широкого використання та яку роль у цьому відіграють наддержави й приватні компанії? Провідні світові науковці та технологи тривалий час висловлюють занепокоєння останніми тенденціями в розвитку роботобудування й штучного інтелекту. Особливим приводом для занепокоєння є ніщо інше як автономна зброя – роботи, які діють на основі штучного інтелекту й здатні самостійно виконувати військові операції, тобто вирішувати, кого вбивати на полі бою.Такі роботи поки що не беруть участі в сучасних арміях, але з огляду на останні розробки в сфері штучного інтелекту, багато хто вважає, що це лише питання часу. Військова автоматизація загалом не є чимось новим, але сьогодні за нею так чи інакше завжди стоїть людина. Більшість експертів погоджується, що в разі використання летальної зброї залучення людини є просто необхідним, йдеться у новому звіті The Economist, присвяченому революції військової робототехніки. Discover Magazine: «Забудьте про заборони: ООН «застрягла» на визначенні «роботів-убивць» View image on Twitter View image on Twitter
Discover Magazine ✔ @DiscoverMag
Forget Bans: UN stuck on defining killer robots: http://bit.ly/2Ax82qw @jeremyhsu 17 5:12 PM - Jan 28, 2018 See Discover Magazine's other Tweets Twitter Ads info and privacy «Автономна зброя – скринька Пандори» Відомий винахідник Ілон Маск, вчений Стівен Хокінг та «батько» Microsoft Білл Ґейтс погоджуються з тим, що в разі неправильного поводження зі штучним інтелектом він може перетворитися на загрозу існуванню людства. Маск разом зі 115 іншими лідерами в сфері штучного інтелекту навіть підписали відкритий лист в ООН, що закликає покласти край гонці озброєння в сфері автономної зброї ще до того, як її використання набуде поширення. «Ми не маємо багато часу. Тільки-но ця скринька Пандори відкриється, її вже буде складно зачинити», – йшлося в листі. Низка неурядових організацій заснували «Кампанію зупинки «роботів-вбивць» і активно працюють, щоб зупинити використання автономної летальної зброї. Жартівливий макет робота під час заснування «Кампанії зупинки «роботів-убивць» у Лондоні, 2013 рік Жартівливий макет робота під час заснування «Кампанії зупинки «роботів-убивць» у Лондоні, 2013 рік
В чому проблема?
Причин для занепокоєння досить багато. Серед них, наприклад, те, що як і будь-яку комп’ютерну систему, «роботів-убивць» можна буде «зламати» за допомогою кібератак. По-друге, що такі роботи можуть просто вийти з ладу й призвести до масштабної катастрофи. «Немає ніякої гарантії, що будь-яка технологічна система працюватиме бездоганно. Але коли ви дасте цій системі летальну зброю, небезпека зростає в багато разів», – зазначив науковець Ульрік Франк для Deutsche Welle. По-третє, в разі порушення гуманітарного права питання полягатиме в тому, хто саме нестиме за це відповідальність, адже робот діятиме самостійно. Більше того, така зброя може потрапити до рук недержавних акторів, включаючи терористичні угруповання. Основні гравці: інтереси наддержав та приватних компаній Штучний інтелект сьогодні є надзвичайно важливим компонентом стратегії національної безпеки для наддержав. Не так давно російський президент Володимир Путін заявив про те, що штучний інтелект має колосальний потенціал і що той, хто зможе стати лідером у цій сфері, стане правителем світу. Хоча він і пообіцяв ділитися отриманими знаннями в цій сфері з іншими країнами, багато хто передбачає справжню гонку за передові технології штучного інтелекту. Наприкінці минулого року в Женеві цілий тиждень тривали обговорення використання штучного інтелекту в озброєннях, після чого у виданні Business Insider з’явилася стаття про ігнорування Росією будь-якої заборони ООН на «роботів-убивць». На думку Росії, заборона летальних автономних систем озброєнь «обмежує свободу використання переваг автономних технологій, що є майбутнім людства», мовиться у статті. Але навіть заборони використання певних типів зброї історично не були перешкодою для «поганих хлопців», зауважує автор. Є також думки, що найбільші амбіції домінувати в індустрії до 2030 року має саме Китай, особливо зважаючи на те, що за три десятиріччя економічного зростання він цілком може собі це дозволити. Багато хто звертає увагу й на те, що саме приватні компанії стоять за стрімким розвитком автономної зброї. Корпорації зацікавлені в прибутках, і вони активно діятимуть для пришвидшення розвитку цих технологій.
«Це дилема контролю над озброєннями. Чим кориснішою буде потенційна зброя для військових, тим важче буде її регулювати або ж заборонити», – пояснює Deutsche Welle професор політичних наук в Університеті Пенсильванії Майкл Горовіц. «Це дилема контролю над озброєннями. Чим кориснішою буде потенційна зброя для військових, тим важче буде її регулювати або ж заборонити», – пояснює Deutsche Welle професор політичних наук в Університеті Пенсильванії Майкл Горовіц.
The Economist ✔ @TheEconomist
· Jan 27, 2018
Replying to @TheEconomist
Swarming robots will fight alongside armies, performing a range of duties from reconnaissance to strike missions http://econ.st/2ngd99M
nge the nature of warfare
economist.com
The Economist ✔ @TheEconomist
Killer robots can no longer be dismissed. Autonomous weapons could remove human decision making from the loop altogether http://econ.st/2FlPoVa 102 3:45 PM - Jan 27, 2018 Twitter Ads info and privacy
Autonomous weapons are a game-changer
AI-empowered robots pose entirely new dangers, possibly of an existential kind
economist.com
67 people are talking about this
Блог до проекту
Мультимедійна презентація
https://drive.google.com/file/d/15Eo1K3q-kZxR0bYAi54OjwsGHrhCGw-v/view?usp=sharing
Календар подій проекту:
Google Календар (https://calendar.google.com/calendar/r?pli=1)
Опитування до проекту
Google Форми (https://docs.google.com/forms/d/e/1FAIpQLSeuzn_FGsxliWd5PmDofm4AvTVr2oe7AOiavPTyclVxFhSoHw/viewform)
Фотоальбом до проекту
https://photos.app.goo.gl/qJqXms38Pd1XDBnb7
Спілкування між учасниками проекту
- Чат
- Форум
- Спільнота на базі соціальних мереж
- Skype
- Telegram
- Viber
- Wiki-сторінка
- Сайт
- .....
Інформаційні ресурси
Друковані джерела
- ...
- ...
- ...
Відеоматеріали
- ...
- ...
- ...
Електронні ресурси
- ...
- ...
- ...
Центральноукраїнський державний педагогічний університет імені Володимира Винниченка