Кафедра інформатики КПНУ ім. І. Огієнка

Studies in tota vita

Леслі Гебріел ВеліантЛеслі Гебріел Веліант народився 28 березня 1949 року. Він родом з Великобританії, де він закінчив Імперський коледж в Лондоні і Уорікський університет, викладав, а на початку 1980-х перебрався в Гарвард. Тут у 1984 році ним була написана праця «Теорія учня» - «A Theory of the Learnable», яку досі цитують всі теоретики і практики прикладного програмування навчальних систем.

Власне, головним досягненням Веліанта стала теорія наближено правильного навчання —  Probably Approximately Correct Learning (PAC-learning), в інформатиці відома просто як теорія Веліант. Теорія являє собою математичний аналіз самонавчаючих алгоритмів, який враховує, що дуже важливо, їх обчислювальну складність: тобто обсяг робіт, який потрібно для вирішення задачі і отримання машиною ймовірно найбільш істинної гіпотези за ефективний  час, використовуючи прийнятний (або навіть жорстко заданий) обсяг обчислювальних ресурсів.

Відпрацювавши достатню кількість навчальних ітерацій, машина може навчитися «передбачати майбутнє», знаходячи гіпотези, які відповідають навчальним даним. Машина, таким чином, може сама, без підказок, навчитися вгадувати правильну відповідь - таким, наприклад, може стати «посмішка» в серії «не усмішок», яку повинна вловити цифрова «мильниця» (дана опція, знайома багатьом володарям даного пристрою, теж виросла з веліантовської «теорії учня»).

Важливою умовою теорії Веліант є саме ефективність. Звичайно, моделі машинного навчання створювалися і до цього, але рівень їх накопичувальної складності завжди провокував різні тупикові рекурсії в алгоритмах навчання, коли визначення правильної гіпотези виявлялося неможливим без підказки, а також експонентне зростання обчислювальних ресурсів вже на ранніх стадіях навчання. Тому ці моделі залишалися досить примітивними, неавтономними  (машинам були потрібні шпаргалки), повільними, а якість навчання — низькою.

Веліант, використавши свої попередні математичні напрацювання в теорії складності перерахувань і алгебраїчних обчислень (зокрема, ним був запропонований спосіб по надійному виділенню класу функцій, які відшукуються найбільш ефективно), вирішив проблему. Починаючи з середини 1980-х в програмуванні навчальних систем почалася справжня революція, оскільки були знайдені інструменти, що дозволяють штучному інтелекту знижувати свій рівень ентропії, покладаючись, так би мовити, на власні сили, а не зовнішні канали впорядкованих даних (підказки, порівняльні таблиці, рутинний перебір сценаріїв тощо). Простіше кажучи, комп'ютери більшою мірою стали «думати по-людськи».

Практичним виходом теорії Веліант став цілий кластер програмного забезпечення, що імітує роботу інтелекту — від добре знайомих усім програм розпізнавання мови, що працюють в реальному часі, до ефективних інтелектуальних алгоритмів, які знаходять найбільш релевантну інформацію за запитом, а також евристичних спамових фільтрів, які вміють відрізняти «правильні» листи від «неправильних».

Всі ці технології вже реалізовані і активно використовуються, притому зовсім недавно новий суперкомп'ютер IBM Watson, наділений системою штучного інтелекту, що розуміє питання, сформульовані природною мовою, і знаходить відповіді на них у базі даних, взяв участь у телевікторині «Jeopardy!» (російський аналог - «Своя гра») і обіграв суперників-людей, заробивши 1 млн доларів.

З поки що нереалізованих проектів Веліант залишається розпізнавання комп'ютером швидкого мовлення на льоту. Відомо, однак, що над створенням такого перекладача інтенсивно працює Google збирається запустити сервіс миттєвого перекладу телефонних розмов з іспанської на англійську і навпаки. Без самонавчаючих алгоритмів ефективно вирішити таку задачу неможливо. Машина повинна вміти миттєво вгадувати правильне слово в потоці вхідних даних, до того ж з великими домішками шуму, а не зіставляти їх з бібліотеками всіх можливих фонем, великий розмір яких робить виконання завдання явно неефективним.

Серед інших досягнень Веліант, відзначених премією Тюрінга, його праці про паралельних та розподілених обчислень. Наприклад, запропонована їм система рандомізації маршрутів (randomized routing) виявилася ефективною у запобіганні «бітових заторів» і втрат даних у комунікаційних мережах.

Джерело: http://madan.org.il/node/1668

Gravatar

Comments

Comments are closed on this post.