Кто такой Клод Шеннон и чем он знаменит

Клод Элвуд Шеннон – ведущий американский учёный в сфере математики, инженерии, криптоаналитики.

Клод Элвуд Шеннон – ведущий американский учёный в сфере математики, инженерии, криптоаналитики.

Он приобрёл мировую известность, благодаря своим открытиям в области информационных технологий и изобретению «бит» (1948 г.), как самой маленькой информационной единицы. Его считают основоположником информационной теории, основные положения которой до сих пор актуальны в разделе высокотехнологичной связи и современных коммуникаций.

Шенноном также было впервые введено понятие «энтропия», что говорит о неопределённой мере передаваемой информации.

Этот учёный первым применил научный подход для информационной идей и законов криптографии, обосновав свои мысли в работах о математической теории связи, а также о теории связи в секретных системах.

Большой вклад внёс он и в развитие кибернетики, обосновав такие ключевые моменты, как вероятность схемы, игровую научную концепцию, а также мысли о создании автоматов и управленческой системы.

Детские и юношеские годы

Клод Шеннон появился на свет в американском Петоски, что в штате Мичиган. Это радостное событие случилось 30.04.1916-го.

Деньги за 10 минут, даже с плохой кредитной историей

Отец будущего учёного занимался бизнесом в сфере адвокатуры, а затем был назначен судьёй. Мать – преподавала иняз и со временем получила должность директора школы в Гэйлорде.

Математические наклонности были присущи Шеннону-старшему. Ключевую роль в формировании склонности к научной деятельности у внука сыграл дедушка – фермер и изобретатель.

В его арсенале создание стиральной машинки и некоторых видов прикладной сельхозтехники. Примечательно, что Эдисон имеет родственные связи с этой семьёй.

Фото Что такое байт

Фото: значение слова “байт”

В 16-летнем возрасте Клод закончил среднюю школу, где преподавала его мать. Успел поработать курьером в Western Union, занимался конструированием различных устройств.

Его интересовало моделирование самолётов и радиотехники, ремонт небольших радиостанций. Он своими руками сделал лодку с радиоуправлением, телеграф для связи с другом.

Как уверяет сам Клод, его абсолютно не интересовали только политика и вера в Бога.

Студенческие годы

Университет Мичигана распахнул перед Шенноном свои двери в 1932 году. Учёба здесь открыла для него труды Дж. Буля. Диплом бакалавра по математике и электротехнике Клод получил в 1936 г.

Его первым местом работы стала должность ассистента-исследователя в технологическом университете Массачусетcа. Научную деятельность Клод вёл в качестве оператора механического компьютерного устройства, созданного его учителем В. Бушем.

Глубоко вникнув в концептуальные научные разработки Буля, Шеннон понял возможность их практического применения. Защитив магистерскую диссертацию в 1937 г., которую курировал  Фрэнк Л. Хичкок, он перешёл в известную Bell Telephone Laboratories, где выпустил материал по символическому анализу в схемах переключения и с задействованием реле.

Он был размещён на страницах специального журнала институтом инженеров-электриков в США (1938 г.).

Основные положения статьи раскрыли усовершенствование маршрутного посыла телефонного вызова, благодаря замене реле электромеханического типа на переключающую схему. Молодой учёный обосновал концепцию о возможности решения применением схем всех задач Булевой алгебры.

Эта работа Шеннона получила Нобелевскую премию в области электрической инженерии (1940 г.) и стала основой для создания логических цифровых схем в электрических цепях. Этот магистерский труд стал настоящим научным прорывом ХХ века, положив начало созданию электронной вычислительной техники современного поколения.

Буш рекомендовал Шеннону заняться диссертацией на получение степени доктора математических наук. Серьёзное внимание им было уделено математическим исследованиям в тесной связи с генетическими законами наследственности известного Менделя. Но эта работа так и не получила должного признания и впервые была опубликована только в 1993 г.

Немало сил учёным было отдано построению математического фундамента для различных дисциплин, особенно информационных технологий. Этому способствовало его общение с видным математиком Г. Вейлем, а также Дж. Фон Нейманом, Энштейном, Гёделем.

Военный период

С весны 1941 г. до 1956 г. Клод Шеннон работает на оборону США, разрабатывая управление огнём и обнаружение врага при ведении противовоздушной обороны. Он создал устойчивую межправительственную связь президента США с английским премьером.

Национальной  премии в области научных исследований он был удостоен за свой доклад об организации двухполюсных переключающих цепей (1942 г.).

Учёный заинтересовался идеями англичанина Тьюринга по шифрованию речи (1943 г.), и уже в 1945-м выпустил работу об усреднении данных и прогнозировании для систем управления огнём. Его соавторами стали Ральф Б. Блэкмен и Х. Боде. Смоделировав специальную систему, обрабатывающую информацию и спецсигналы, они положили начало информационному веку.

Секретный меморандум К. Шеннона в области математической теории криптографии (1945 г.) доказал, что криптография и теория связи – неразделимы.

Фото Единицы измерения информации

Послевоенный период

Это время ознаменовано его меморандумом о теории связи с математической точки зрения (1948 г.) в части кодировки передаваемых текстов.

Дальнейшая работа Шеннона вплотную связана с информационной теорией в области разработки игр, в частности колеса рулетки, машины, читающей мысли, а также машины по сбору кубика Рубика.

Учёный воплотил идею, позволяющую сжать информацию, которая позволяет избежать её потерю при распаковке.

Учёный создал школу, где периодически вёл семинары, где учил студентов находить новые подходы к решению тех или иных задач.

Известны его научные исследования в области финансовой математики. Среди них, электрическая цепь денежного течения в американских пенсионных фондах и обоснование выбора портфеля инвестиций при распределении денежных активов.

Многие сравнивают популярность Клода Шеннона с Исааком Ньютоном.

После 1978 г., на пенсии он занялся теорией жонглирования и сконструировал специальную машину.

Сборник своих статей Клод Шеннон выпустил в 1993 году, куда вошли 127 его научных работ.

Завершающий жизненный этап

Последние годы он провёл в Массачусетском доме-интернате из-за болезни Альцгеймера. Здесь, по заверению его жены Мэри Элизабет, Клод участвовал в исследованиях по изучению способов её лечения.

Вся семья постоянно находилась рядом с ним. Смерть наступила 24.02.2001 г.

У Шеннона остались единственная жена, брак с которой продлился с марта 1949 г.  У них родились трое детей Роберт, Андрю, Маргарита.

Приходившийся дальним родственником знаменитому изобретателю Томасу Эдисону, Клод Шеннон с детства обожал делать разные автоматические игрушки — модели самолетов, радиотехнические цепи, лодки на радиоуправлении. Как-то он даже смастерил телеграфную сеть между соседским и своим домами. Забегая вперед, именно он стал автором первой в мире серийной игрушки на радиоуправлении, которая производилась в Японии в пятидесятых.

Получив две степени бакалавра в Мичиганском университете и MIT, Шеннон смог поработать на одном из первых (еще аналоговом) устройств, которое мы бы сейчас назвали компьютером. Именно там Шеннон понял, что принципы булевой алгебры вполне можно использовать при создании электрических цепей. Эти цепи могли бы выражать логические отношения, определять истинность или ложность утверждений, а также выполнять сложные вычисления — три кита, фундамент современных компьютеров. Так что, не будь Шеннона, кто знает, что именно вместо макбуков нам пришлось бы таскать с собой в Старбакс.

Коллеги из E-Promo объясняют, как data-driven подход помогает проектировать сильные маркетинговые стратегии:

  • Откуда брать ценные для бизнеса данные;
  • Как их корректно агрегировать и анализировать;
  • Как устроено data-driven продвижение на примерах свежих кейсов;
  • И каких результатов можно достичь, интегрировав ИИ-сервисы в работу маркетологов.

2021 — год умного маркетинга, заряженного технологиями и большими данными, не отставайте →

Реклама

Во время войны Клод Шеннон в составе группы Т. Фрая работал над устройствами обнаружения и наведения на цель для систем противовоздушной обороны, а также разрабатывал криптографические системы (в т. ч. для правительственной связи) — именно через систему его разработки проходили секретные переговоры Черчилля и Рузвельта. Во многом именно этот опыт подтолкнул Шеннона к созданию теории информации.

Оформилась же эта теория позже, когда Шеннон работал над оптимизацией передачи данных по телефонным и телеграфным линиями. Чтобы это сделать, нужно было в принципе дать понятие тому, что такое информация, и придумать, как ее измерить. В статье «Математические теории связи» ученый ввел понятие единицы информации — бита — термина, знакомого каждому.

Продолжив начинания Аллана Тьюринга и Джона фон Неймана в области алгоритмов, Шеннон создал машину, способную играть в шахматы (победивший Каспарова суперкомпьютер Deep Blue появился почти сорок лет спустя). В 1952 году он изобрел обучаемую механическую мышь, которая могла находить выход их лабиринта.

Среди изобретений Клода Шеннона есть устройство, собирающее кубик Рубика , мини компьютер для настольной игры Гекс (он всегда побеждал). Шеннон был обладателем отменного чувства юмора — тому подтверждение созданная им Абсолютная Машина (The Ultimate Machine).

Вклад Клода Шеннона в науку и его результаты, без которых не было бы ни компьютеров, ни интернета и цифрового пространства, сложно переоценить. Современники сравнивали ученого с Исааком Ньютоном — как говорится, комментарии излишни.

Клод Шеннон ушел из жизни 24 февраля 2001 года в возрасте 84 лет.

Источник картинки на тизере: flickriver

Биография

Клод Шеннон — американец, который создал науку «теория информации» и «алгеброй проверял» не только музыку, но и общение, игры, физические и биологические системы. По мнению исследователей, вклад Шеннона в создание компьютера равноценен вкладу создателя алфавита в литературу.

Детство и юность

Автор «алгебры логики» родился в последний апрельский день 1916 года в семье мичиганского адвоката Клода Шеннона – старшего и учительницы, вскоре ставшей директором школы, Мейбл Вольф. Шенноны жили в городке Гейлорд, который называют американской альпийской деревней, но появился на свет Клод-младший в больнице приморского курортного городка Петоски.

Today is the 103rd birthday for American mathematician & engineer Claude Shannon [1916-2001], the principle founder of...

Опубликовано Tim Thompson Вторник, 30 апреля 2019 г.
Математик Клод Шеннон

Старшая сестра мальчика Кэтрин, впоследствии ставшая профессором математики, давала брату решать головоломки, публикуемые в журналах и книгах. Любимым литературным произведением Клода был рассказ Эдгара По «Золотой жук». Особенно завораживала юного читателя детективная линия расшифровки манускрипта, попавшего в руки персонажа. Размышления Шеннона над созданием шифров и их раскодированием впоследствии легли в основу его статьи «Теория связи в секретных системах».

Другой страстью Клода было создание самодельных устройств, которую он унаследовал от деда, смастерившего стиральную машину и ряд приспособлений, используемых в земледелии и животноводстве. Подросток создал телеграф между своим жилищем и домом друга, сконструировал радиоуправляемую игрушечную субмарину, неоднократно чинил и совершенствовал радиосвязь в местном супермаркете.

Будучи не в силах выбрать между царицей наук и электротехникой, парень получил в университете квалификацию бакалавра по обеим специальностям. В ранней юности Клоду довелось поработать курьером в Western Union, однако после получения высшего образования в 1936 году Шеннон занял должность ассистента-исследователя в Массачусетском институте.

Личная жизнь

Математик дважды вступал в брак. Первое супружество с левой интеллектуалкой Нормой Левор, еврейкой по национальности, продлилось год. Бывшая жена Шеннона вскоре после развода обрела счастье в личной жизни с журналистом и сценаристом Беном Барзменом. Норма родила второму супругу семерых детей. В фильмах, снятых по сценариям Барзмена, играли Энтони Куинн, Жан-Луи Трентиньян и Филипп Нуаре.

Второй и последней женой Шеннона стала Мэри Элизабет Мур, с которой он познакомился в Лаборатории Белла. Клод и Бетти подарили жизнь трем детям — сыновьям Роберту Джеймсу и Андрю Муру и дочери Маргарите Катерине.

Клод Шеннон и его жена Бетти

Любимой музыкой ученого был классический джаз, а любимым блюдом — ванильное мороженое с шоколадным муссом. Помимо изобретения и сборки гаджетов, Клод увлекался жонглированием, ездой на велосипеде и стихосложением. На некоторых фото Шеннон запечатлен курящим трубку или сигарету.

Две вещи никогда не интересовали изобретателя — политика и религия. В отличие от собрата по науке Норберта Винера, Клод никогда не делал политических заявлений против милитаризации науки и насаждения всеобщей секретности.

Научная деятельность

Выполняя обязанности оператора аналогового компьютера, разработанного университетским наставником Вэниваром Бушем, юноша понял, что математические теоремы применимы в электротехнике. Открытие Шеннона легло в основу его магистерской диссертации 1937 года, посвященной анализу переключателей электросистем. В работе впервые появилась единица измерения информации бит.

Другим важным довоенным исследованием Клода стала диссертация об алгебраических методах в генетике. В годы мировой войны ученый по заданию Министерства обороны США совершенствовал системы управления огнем и совместно с британским математиком Аланом Тьюрингом работал над шифровкой и дешифровкой связи.

В 1949 году Шеннон вместе с Уорреном Уивером разработал математическую модель коммуникации, описывающую линейную передачу посланий. Источник информации должен иметь передатчик, а получатель — приемник. Между передатчиком и приемником идет сигнал.

Клод Шеннон и Уоррен Уивер
Клод Шеннон и Уоррен Уивер / @hamradio_community

Шеннон ввел понятие информационного шума, искажающего информацию в ходе передачи, использовав для его характеристики физически-философскую категорию «энтропия». Схемы, предложенные Шенноном и Уивером, легли в основу информатики и кибернетики.

Ряд работ Клода посвящен теории игр, а изобретений — ее практическому применению. Исследовав алгоритм игры в шахматы, ученый разработал компьютерные программы для робота-шахматиста, а в 50-е годы XX века создал устройство, «читающее мысли» при игре в «орла и решку».

Смерть

Отец математической теории связи скончался 24 февраля 2001 года. Причиной смерти Клода стали последствия болезни Альцгеймера. Последние годы жизни Шеннон провел в доме престарелых Массачусетса. Пока позволяли силы, ученый участвовал в изучении причин и последствий коварного недуга, поражающего мозг пожилых людей. До последних минут жизни Клода о нем заботились члены семьи.

Память

  • В честь математика назван астероид 18838 Shannon
  • В честь 100 летия со дня рождения Клода Шеннона был сделан логотип-дудл в поисковике Google
  • Существует премия Шеннона, причём сам Шеннон был первым её лауреатом
  • После распада The Bell System, лаборатория, которая осталась с AT&T Corporation, была названа Shannon Labs
  • Существуют шесть статуй Клода Шеннона, причем все они сделаны скульптором Евгением Доубом и установлены в разных университетах и лабораториях США.

Научные достижения

  • Является основателем теории информации, нашедшей применение в современных высокотехнологических системах связи.
  • Предоставил фундаментальные понятия, которые в формируют основу для современных коммуникационных технологий.
  • В 1948 году предложил использовать слово «бит» для обозначения наименьшей единицы информации.
  • Статьи Шеннона считаются основополагающими для теории информации и криптографии.
  • Первым сформулировал теоретические основы криптографии и ввёл в рассмотрение многие основные понятия.
  • Шеннон внёс ключевой вклад в теорию вероятностных схем, теорию игр, теорию автоматов и теорию систем управления — области наук, входящие в понятие «кибернетика».

Библиография

  • 1937 — «Символьный анализ релейных и коммутационных цепей»
  • 1940 — «Алгебра теоретической генетики»
  • 1948 — «Математическая теория связи»
  • 1949 — «Теория связи в секретных системах»
  • 1949 — «Связь при наличии шума»

Краткая биография

Имя: Клод Элвуд Шеннон

Годы жизни: 30 апреля 1916 год — 24 февраля 2001 год

Государство: США

Сфера деятельности: Математика, аналитика

Величайшее достижение: Считается «отцом информационного века»

Американский математик и отец информационной теории, Клод Элвуд Шеннон родился в Петоски, штат Мичиган 30 апреля 1916 года Отец Шеннона был судьей в маленьком городке Петоски с населением около трех тысяч человек, а его мать Мэйбл была директором местной средней школы. От отца Клод не получил никакого математического влияния, зато с избытком хватало от деда, который был изобретателем и фермером- его изобретения включали стиральную машину и сельскохозяйственную технику.

Биография

С раннего возраста Шеннона интересовала техника, математика — в связи с этими желаниями он и окончил Мичиганский университет со степенями в обеих дисциплинах. Для получения ученой степени он решил поступить в Массачусетский Технологический институт, который в то время был одним из престижных. На математическом факультете работали гении науки, в том числе Норберт Винер, Ванневар Буш, который работал деканом в институте и в начале 1930-х годов построил аналоговый компьютер под названием дифференциальный анализатор.

По предложению Буша Шеннон также изучил работу релейных схем анализатора для своей магистерской диссертации. Этот анализ лег в основу влиятельной работы Шеннона 1938 года «символический анализ релейных и коммутационных цепей», в которой он выдвинул свои развивающиеся теории о связи символической логики с релейными цепями. Этот документ и содержащиеся в нем теории окажут плодотворное влияние на развитие машин и систем обработки информации в последующие годы.

Не забывал Клод Шеннон и о математике — он объединил математические теории с инженерными принципами, чтобы заложить основу для развития цифрового компьютера и современной цифровой связи. Его основополагающая работа 1948 года открыла совершенно новый мир и коренным образом изменила способ представления информации.

Клод Шеннон окончил Массачусетский технологический институт в 1940 году со степенью магистра и доктора математики. После выпуска он провел год в должности научного сотрудника в Институте перспективных исследований Принстонского университета, где он работал с математиком и физиком Германом Вейлем. В 1941 году Шеннон поступил в телефонную лабораторию Белла, где стал членом группы ученых, которой было поручено разработать более эффективные методы передачи информации и повысить надежность междугородних телефонных и телеграфных линий.

Теории Шеннона

Одной из наиболее важных особенностей теории Шеннона была концепция информационной энтропии, которую он продемонстрировал как эквивалентную нехватке информационного содержания в сообщении. Согласно второму закону термодинамики и физики, энтропия — это степень случайности в любой системе, которая всегда увеличивается. Таким образом, многие предложения могут быть значительно сокращены без потери смысла. Шеннон доказала, что в шумном разговоре сигнал всегда можно послать без искажений. Если сообщение закодировано таким образом, что оно самоконтролируется, сигналы будут приниматься с той же точностью, как если бы не было помех на линии.

Шеннон

Например, язык имеет встроенный код для исправления ошибок. Поэтому шумный разговор на вечеринке понятен лишь отчасти, потому что половина языка избыточна. Методы Шеннона вскоре нашли применение не только в компьютерном дизайне, но и практически во всех предметах, в которых язык был важен, таких как лингвистика, психология, криптография и фонетика.

Шеннон также показал, что если к сообщению было добавлено достаточно дополнительных битов, чтобы исправить ошибки, он может туннелировать через самый шумный канал. На протяжении десятилетий это понимание развивалось в виде сложных кодов, исправляющих ошибки, которые обеспечивают целостность данных, с которыми взаимодействует общество. Работая в лаборатории Бэлла, Клод совместно с коллегами разработали концепцию кода для исправления ошибок.

Шеннон считал, что информация ничем не отличается от любой другой величины и поэтому может манипулировать машиной. Он применил свои ранние исследования к рассматриваемой проблеме, используя логику Буля для разработки модели, которая сводит информацию к ее самой простой форме-двоичной системе выбора да/нет, которая может быть представлена двоичным кодом 1/0. Применяя установленные коды к передаваемой информации, можно свести к минимуму уровень шума, который она улавливает во время передачи, и тем самым повысить качество.

В конце 1940-х годов исследования Шеннона были представлены в математической теории коммуникаций, в соавторстве с математиком Уорреном Уивером. Именно в этой работе Шеннон впервые ввел слово «бит», состоящее из первых двух и последней буквы «двоичной цифры» и придуманное его коллегой Джоном У. Туки, чтобы описать решение «Да-нет», которое лежало в основе его теорий.

В 1941 году он приступил к серьезному изучению проблем коммуникации, частично мотивированному требованиями военных действий. Результатом этого исследования стала классическая работа «математическая теория коммуникации» 1948 года.

Этот новаторский документ начинается с наблюдения, что «фундаментальная проблема коммуникации заключается в том, чтобы воспроизвести в одной точке точно или приблизительно сообщение, выбранное в другой точке. Результаты были настолько потрясающими, что математическому и инженерному сообществу потребовалось некоторое время, чтобы осознать их значение. Новая наука была создана в форме теории информации, с публикацией этого документа, и остается эталоном даже сегодня.

Математический гений

В 1950-х годах Шеннон обратил свои усилия на разработку так называемых «интеллектуальных машин»- механизмов, которые имитировали работу человеческого разума для решения проблем. Из его изобретений в то время наиболее известной была мышь-лабиринт по имени Тесей, которая использовала магнитные реле, чтобы научиться маневрировать через металлический лабиринт.

Теория информации Шеннона в конце концов увидела применение в ряде дисциплин, в которых язык является основополагающим фактором- лингвистика, фонетика, психология и криптография.

Клод Шеннон был удостоен многочисленных почетных степеней и наград. Опубликованные им и ООН документы охватывают невероятно широкий спектр областей. Многие из них были бесценным источником научных идей для других. Можно сказать, что не было бы интернета без его теории информации; каждый модем, каждый сжатый файл, каждый код исправления ошибок чем-то обязан Шеннону.

Выдающийся математический гений, Клод Шеннон, умер в возрасте 84 лет 27 февраля 2001 года в Медфорде, штат Массачусетс. После долгой борьбы с болезнью Альцгеймера. Его дело живет до сих пор, и можно быть уверенными, что пока человечество нуждается в компьютерах, имя Шеннона не будет забыто.

Не пропустите новые материалы. Подписывайтесь на нас в Яндекс.Дзен.

Подписаться

Кто же такой Клод Шеннон? Каждая комната в Entropy House, поместье неподалеку от Бостона, где Шеннон вместе с женой Бетти прожили более 30 лет, может ответить на этот вопрос по-разному. Одна комната, опрятная и аккуратная, украшена рядами наград, демонстрирующих многочисленные достижения хозяина дома. В их числе Национальная научная медаль, полученная им в 1966 году, Премия Киото — японский эквивалент Нобелевской — и Медаль Почёта IEEE.

Эта комната — зал славы Шеннона.

Роберт Лаки

, исполнительный директор по исследованиям в AT&T Bell Laboratories, называл его работы величайшими достижениями «в анналах технологической мысли». А

Рольф Ландауэр

из IBM ставил новаторские мысли Шеннона наравне с идеями Эйнштейна. Еще во времена работы в Bell Laboratories на позиции младшего инженера Шеннон сформулировал основы теории информации. В блестящей статье для Bell System Technical Journal он обозначил широкое интеллектуальное поле для изучения эффективной упаковки и передачи информации в электронном виде. «A Mathematical Theory of Communication», именно так называлась эта статья, до сих пор является Magna Karta (Великой хартией вольностей) коммуникационной эры.

Шеннон в свои 75 лет, несмотря на совершенно седые волосы, сохранил на лице улыбку проказливого мальчишки. Показывая гостям свои награды, он выглядит едва ли не смущенным. Уже спустя минуту он приглашает нас в следующую комнату. Ее стены завешены множеством дипломов и сертификатов в рамках. Один из них, например, утверждает, что Шеннон является «доктором жонглерских наук». Столы в комнате загромождены всевозможными устройствами.

Их Шеннон коллекционировал всю свою жизнь. У него есть говорящая шахматная машина, перочинный нож с сотней инструментов и пого-стик с моторчиком, а также без счета музыкальных инструментов. Что-то он построил самостоятельно: миниатюрный стенд с клоунами-жонглерами, механическую мышку, бродящую по лабиринту, жонглирующий манекен комика У.К. Филдса и компьютер Throbac (Thrifty Roman Numeral Backward Computer), считающий римскими цифрами. Шеннон даже попытался завести жонглирующего Филдса, чтобы показать нам свое творение, но безуспешно. «Я люблю строить разные машины, но мне трудно поддерживать их в рабочем состоянии» — задумчиво пробормотал он.

Все эти гаджеты демонстрируют нам совершенно другого Шеннона. Того самого, который рассекал по коридорам Bell Laboratories на уницикле, жонглируя сразу четырьмя шарами. Того, кто изобрел фрисби на реактивной тяге и «машину для чтения мыслей».

Эта комната показывает нам Шеннона, который все время искал новые поводы для вдохновения — и даже построил шахматную машину. Как вспоминает его бывший коллега, одно время Шеннон так много играл в шахматы на работе, что «это вызвало беспокойство как минимум у одного начальника».

Без тени сожаления Шеннон говорит: «Я всегда преследую свои собственные интересы. Конечный результат и его ценность для мира меня особенно не волнуют. Я потратил уйму времени на совершенно бесполезные вещи».

Влияние «Золотого жука»

Любовь Шеннона к математическим абстракциям и всевозможным устройствам проявилась в раннем возрасте. Он родился в 1916 году в пригороде Гейлорда, штат Массачусетс, и провел там значительную часть детства. Шеннон обожал играть со всевозможными радио-наборами — их покупал ему отец. Еще Шеннону очень нравилось решать математические головоломки, которые задавала ему сестра, будущая профессор математики.

«Даже будучи маленьким ребенком, я всегда интересовался криптографией и всякими такими штуками» — рассказывает Шеннон. Одна из его любимых книг — «Золотой Жук» Эдгара По, мистический детектив со счастливым концом. Разгадывая таинственную карту, главный герой находит зарытое в земле сокровище.

В Мичиганском университете Шеннон был одинаково хорош как в математике, так и в электронике. Хорошее понимание обеих этих областей позволило ему добиться первого значительного успеха: его приняли в аспирантуру MIT. После беседы о сложной системе переключения телефонных линий с Амосом Джоэлем, признанным экспертом Bell Laboratories, Шеннон подготовил свою дипломную работу. В ней он, прибегая к концепциям из булевой алгебры, таким как: «Если происходит либо X, либо Y, но не Z, в результате получится Q», смог описать работу переключателей и реле в электрических цепях.

Выводы, сделанные 22-х летним студентом, оказались на удивление глубокими: электрические цепи перед строительством можно протестировать математически, а не путем проб и ошибок. Современные инженеры уже давно проектируют компьютерное «железо», софт, телефонные линии и прочие сложные системы с помощью булевой алгебры.

Дипломная работа Шеннона была названа «вероятно, важнейшей дипломной работой столетия», но сам автор, как обычно, принижает ее значимость. «Просто так совпало, что на тот момент только я был хорошо знаком и с математикой, и с электроникой» — говорит он. И тут же добавляет: «Мне всегда нравилось это слово — «Булев»!».

После получения докторской степени в MIT в 1940 году (его диссертация была посвящена математике в передаче генов) Шеннон провел год в принстонском Институте перспективных исследований. Театральным шепотом Шеннон рассказывает, как он однажды держал в институте речь, и тут в заднюю дверь аудитории вошел легендарный Эйнштейн. Он поглядел на Шеннона, что-то прошептал одному из ученых и покинул комнату. Сразу после выступления Шеннон бросился к этому ученому, чтобы узнать, о чем говорил Эйнштейн. Тот, сохраняя серьезный вид, ответил: «Эйнштейн поинтересовался, где у нас лежит чай».

Как пишется слово «эврика»?

В 1941 году Шеннон устроился в Bell Laboratories и проработал там 15 лет. Во время Второй мировой войны он участвовал в разработке цифровых систем шифрования. Одной из них пользовались Черчилль и Рузвельт для проведения трансокеанских переговоров.

Как говорит сам Шеннон, эта работа и привела к появлению теории коммуникации. Он понял, что при помощи числовых кодов можно защитить информацию от чужих глаз. Соответственно, и от помех тоже. Кроме того, эти коды можно использовать для эффективного упаковывания информации и дальнейшей передачи по выделенному каналу.

«Первое, о чем я подумал [в ключе теории информации]» — говорит Шеннон, — «это как улучшить передачу информации по сильно зашумленному каналу. Это была острая проблема для телеграфных и телефонных систем. Но когда думаешь о таких вещах, в голове тут же появляется широкий спектр применений [для возможного решения проблемы]». Отвечая на вопрос о том, приходилось ли ему испытывать озарение, после которого хотелось бы воскликнуть «эврика!», Шеннон пошутил: «Приходилось, но я до сих пор не знаю, как пишется это слово».

Определение информации, изложенное в статье Шеннона от 1948 года, имеет решающее значение в его теории коммуникации. Избегая вопросов о смысле информации (Шеннон подчеркивает, что его «теория не могла и не собиралась решать этот вопрос»), он явно демонстрирует, что информация — это измеримый продукт. Он показал, что объем информации в конкретном сообщении определяется вероятностью того, что из всех сообщений, которые могут быть отправлены, выбрано будет именно оно.

Он определил общий потенциал информации в системе как ее «энтропию». В термодинамике этот термин обозначает случайность или «смешанность», как выразился один физик, «системы». (Великий математик и компьютерный теоретик

Джон фон Нейман

убедил Шеннона использовать слово энтропия. То, что никто не знает, что такое энтропия, утверждал фон Нейман, даст Шеннону преимущество в дискуссиях по теории информации.)

Шеннон определил базовую единицу информации как сообщение, представляющее одно из двух возможных состояний. Позднее Джон Тьюки из Bell Laboratories назвал это двоичной единицей, а затем битом. Можно закодировать большое количество информации в сравнительно небольшом количестве битов. Это похоже на старинную игру в «Двадцать вопросов». В ней также можно быстро вычислить верный ответ, задавая правильные вопросы.

Опираясь на математику, Шеннон показал, что любой канал связи обладает некой максимальной пропускной способностью, выше которой надежная передача информации невозможна. На самом деле, с помощью хитрого кодирования есть вероятность достичь этого максимума, однако на практике это невозможно. Этот максимум стал известен как «предел Шеннона».

В той же статье 1948 года говорится, как рассчитать предел Шеннона. Но не о том, как его достичь. И Шеннон, и его коллеги занялись этим вопросом позже. В первую очередь требовалось устранить из сообщений избыточность. Точно так же, как экономный Ромео кодирует свое послание Джульетте до «я тб лбл», хороший код в первую очередь хорошенько сжимает информацию.

Затем добавляется так называемый код коррекции — достаточный, чтобы шум не подавил сообщение окончательно. Например, коррекционный код для потока чисел может добавить уравнение полинома, на график которого попадают все эти числа. А декодер на принимающей стороне знает, что любые числа, выбивающиеся из графика, были искажены при передаче.

Аарон Уайнер

, руководитель отдела исследований в области коммуникационного анализа AT&T Bell Laboratories заметил, что некоторые научные открытия являются продуктом своего времени, но не лично Шеннона.

На самом же деле, идеи Шеннона слишком опережали свое время, чтобы воплотиться моментально. «Многие практичные ученые из Bell Labs считали эту теорию интересной, но не слишком полезной» — говорит

Эдгар Гилберт

. В 1948 году он приехал в Bell Labs — в том числе, чтобы поработать совместно с Шенноном. Вакуумные трубки просто не могли обрабатывать сложные коды, необходимые для приближения к пределу Шеннона. Статья Шеннона даже получила отрицательный отзыв от

Дж. Л. Дуба

, известного математика из Университета Иллинойса. Историк Уильям Аспрей отмечает, что для реального применения теории информации в то время отсутствовала всякая концептуальная основа.

Только в начале 1970-х годов с появлением высокоскоростных интегральных схем инженеры начали полноценно пользоваться теорией информации. В наши дни идеи Шеннона применяются практически во всех системах, которые хранят, обрабатывают или передают информацию в цифровом виде, от компакт-дисков до суперкомпьютеров, от факсимильных аппаратов до зондов для исследования дальнего космоса, таких как Voyager.

Соломон В. Голомб

, инженер-электроник из Университета Южной Калифорнии и бывший президент

Общества теории информации IEEE

, говорит, что важность работы Шеннона нельзя переоценить: «это все равно, что говорить о влиянии изобретателя алфавита на литературу».

Теория информации и религия

Теория информации с самого начала пленила аудиторию, намного более широкую, нежели та, для которой она была предназначена. Специалисты в лингвистике, психологии, экономике, биологии, даже музыканты и художники стремились объединить теорию информации со своими дисциплинами.

Джон Р. Пирс

, бывший коллега Шеннона и заслуженный профессор Стэнфордского университета, сравнил теорию информации (вернее, «широкое злоупотребление» ею) с двумя другими глубокими и неверно истолкованными научными идеям: принципом неопределенности Гейзенберга и теорией относительности Эйнштейна.

Некоторые физики пошли на все, лишь бы доказать, что энтропия теории информации математически эквивалентна энтропии в термодинамике. По словам Дэвида Слепиэна, бывшего коллеги Шеннона по Bell Labs, многие инженеры «просто запрыгнули на трамвайную подножку, не понимая истинной сути теории». В 1956 году работа Шеннона вдохновила создание Общества теории информации IEEE. Вскоре появились экономические, биологические и другие подгруппы. В начале 1970-х годов IEEE Transactions on Information Theory была опубликована статья под названием «Теория информации, фотосинтез и религия», в которой осуждается чрезмерное распространение теории Шеннона. [Примечание редактора: на самом деле статья Питера Элиаса была озаглавлена ​​«Две знаменитые статьи» и была опубликована

в сентябре 1958 года

.]

Шеннон, хотя и скептически относился к некоторым применениям своей теории, не был ограничен в собственных изысканиях. В 1950-х годах в своей гостиной он проводил эксперименты на тему избыточности языка. В них участвовала его жена Бетти, работавшая в Bell,

Бернард Оливер

, еще один ученый из Bell (а также бывший президент IEEE), а также жена Оливера. Кто-то называл первые буквы слова или слов в предложении, а все остальные пытались угадать продолжение. Другой эксперимент Шеннон поставил в Bell Laboratories. Сотрудники должны были подсчитать, сколько раз в письме появлялись различные буквы, и каков порядок их появления.

Кроме того, Шеннон предположил, что применение теории информации к биологическим системам может оказаться и не натяжкой. «Нервная система — это сложная коммуникационная система, которая обрабатывает информацию весьма неочевидным путём», — сказал он. Когда его спросили, считает ли он, что машины могут «думать», он ответил: «Еще бы! Я машина, и вы машина, и мы оба думаем».

Работа Шеннона в области теории информации и его любовь ко всевозможным устройствам привели его к увлечению «умными» машинами. Шеннон был одним из первых ученых, предположивших, что компьютер может играть с человеком в шахматы. А в 1950 году он написал статью для Scientific American, объясняющую, как эту задачу можно выполнить.

На шахматах дело не закончилось. Шеннон соорудил машину для «чтения мыслей». Она могла играть с человеком в «орел или решка» и угадывать ставку. Прототип построил коллега Шеннона из Bell Laboratories, Дэвид В. Хейгелбаргер. Машина записывала и анализировала прошлые ходы соперника и создавала модели, которые предсказывали бы следующий выбор. Поскольку человеческий выбор почти всегда строится на определенной модели, машина угадывала более чем в 50% случаев. А потом Шеннон сконструировал собственную версию машины и вызвал Хейгелбаргера на легендарную дуэль.

Он также создал машину, способную обыграть любого игрока-человека в настольной игре гекс, которая была популярна среди математиков несколько десятилетий назад. Шеннон построил доску таким образом, чтобы на стороне человека было больше гексов, чем на противоположном. Для победы машине было достаточно «захватить» центральный гекс, а затем просчитать доступные варианты ходов.

Машина могла срабатывать мгновенно, но чтобы создать впечатление, что она обдумывает свой следующий ход, Шеннон добавил в цепь переключатель задержки. Эндрю Глисон, блестящий математик из Гарварда, со словами «ни одна машина меня не побьет» бросил вызов устройству Шеннона. И только когда Глисон, разгромленный в пух и прах, потребовал реванша, Шеннон раскрыл ему секрет машины.

В 1950 году Шеннон сделал механическую мышь, которая могла научиться прокладывать себе путь через лабиринт к медному кусочку сыра без посторонней (на первый взгляд) помощи. В честь героя древнегреческого мифа, нашедшего выход из лабиринта и поборовшего Минотавра, Шеннон назвал мышь Тесеем. Фактически, «мозг» мыши был заключен в наборе схем на вакуумных лампах, которые находились под полом лабиринта. Эти схемы контролировали движение магнита, который в свою очередь контролировал мышь.

Когда в 1977 году редактор IEEE Spectrum предложил читателям создать автономную «микро-мышку» со встроенным «мозгом», которая путем проб и ошибок могла бы пройти лабиринт, а затем на основе своего опыта научиться проходить его без ошибок, ему позвонил бывший коллега Шеннона. Позвонил с тем, чтобы доказать, будто Шеннон уже построил такую машину почти 30 лет назад.

Понимая, что технологии 50-х не позволяли провернуть нечто подобное, редактор все равно связался с Шенноном. В ответ он рассмеялся и рассказал, как провел многих людей по всей стране. Шторы вокруг стола с лабиринтом скрывали механизм от зрителей и были важным компонентом устройства. Когда в 1979 году Spectrum торжественно вручал награды Amazing Micromouse Maze Contest, Шеннон снял Тесея со своего чердака, погрузил его в машину и выставил на витрине рядом с механизмом-победителем.

Отвечая на вопросы о перспективах искусственного интеллекта, Шеннон отметил, что современные компьютеры, несмотря на их невероятную мощь, все еще «не достигли человеческого уровня» в плане обработки «сырой» информации. Он подчеркивает, что даже задача по репликации человеческого зрения пока что слишком сложна для машин. Но при этом добавляет: «лично я вполне верю в то, что через несколько десятилетий машины смогут превзойти людей».

Единая полевая теория жонглирования

В 1956 году Шеннон оставил постоянную должность в Bell Labs (но еще более десяти лет работал внештатно), чтобы стать профессором коммуникационных наук в MIT. В последние годы его новой великой страстью стало жонглирование. Он построил несколько жонглирующих машин и разработал единую полевую теорию жонглирования: если B равно числу шаров, H — числу рук, D — времени, которое каждый шар проводит в руке, F — времени полета каждого шара и E — времени, когда каждая рука пуста, то B / H = (D + F) / (D + E).

(К сожалению, теория не могла помочь Шеннону жонглировать более чем четырьмя шарами одновременно. Он говорил, что его руки слишком малы.)

Шеннон также разработал множество математических моделей для прогнозирования роста акций и протестировал их — успешно, по его словам, — на своем собственном портфеле.

Он даже увлекался поэзией. Среди его работ есть ода кубику Рубика, популярной головоломке конца 1970-х. Стихотворение «Рубрика о кубиках Рубика» написано на мотив композиции Ta-Ra-Ra-Boom-De-Aye, а одна из строф выглядит примерно так (вольный перевод на русский язык приведен чуть ниже):

“Respect your cube and keep it clean./Lube your cube with Vaseline./Beware the dreaded cubist’s thumb,/The callused hand and fingers numb./No borrower nor lender be./Rude folk might switch two tabs on thee,/The most unkindest switch of all,/Into insolubility. [Chorus] In-sol-u-bility./The strangest place to be./However you persist/Solutions don’t exist.”Уважь свой кубик, в чистоте Держи его и смажь везде. Но бойся тех, кто этот куб, Не выпускал всю жизнь из рук. Не отдавай свой кубик. Вот — Его сломает обормот. Предмет — странней не видел свет, Собрать его ни шанса нет! [Припев] Не-раз-ре-шимый куб, Пусть даже ты не глуп. Из кожи лезешь, но Не сможешь все равно.

У самого Шеннона был особый талант, и он с успехом решал головоломку. По словам Элвина Берлекэмпа, который учился у него в Массачусетском технологическом институте и совместно с ним написал несколько работ, «есть разрешимые проблемы, которые тривиальны, и серьезные проблемы, у которых решения нет», объяснил Берлекэмп. Шеннон обладал «фантастической интуицией и способностью формулировать глубокие проблемы, которые возможно решить».

С конца 1950-х годов Шеннон мало что публиковал касательно теории информации. Некоторые бывшие коллеги из Bell Laboratories предположили, что, к тому времени, когда Шеннон ушел в Массачусетский технологический институт, он «перегорел» и устал от собственного творения.

Шеннон опровергал эти заявления. По его собственным словам, он продолжал работать над проблемами в сфере в теории информации вплоть до 1960-х годов и даже опубликовал несколько статей, пускай и не считал большую часть своих исследований достойными публикации. «Большинство великих математиков свои лучшие работы написали в молодости», — отмечает он.

В 1960-х Шеннон также прекратил посещать встречи, посвященные теории информации. Берлекэмп предлагает возможное объяснение: в 1973 году ему удалось убедить Шеннона прочитать первую ежегодную лекцию на Международном симпозиуме по теории информации. Но в последнюю минуту Шеннон едва не отказался. «Мне никогда не приходилось видеть человека, который так сильно боится сцены» — вспоминает Берлекэмп. «Толпа смотрела на него, как на бога, и, как мне кажется, он боялся не оправдать их ожиданий».

В конце концов Шеннон произнес вдохновляющую речь, в которой предвосхитил идеи об универсальности обратной связи и самореференциальности в природе.

Тем не менее, Шеннон снова исчез из виду. Лишь в последние годы жена вдохновила его на посещение небольших собраний и различных лабораторий, где ученые работают с его теорией.

В 1985 году он неожиданно приехал на Международный симпозиум по теории информации в Брайтоне. Встреча шла своим чередом ровно до того момента, как прошел слух, что седой мужчина с застенчивой улыбкой, который появляется то там, то здесь, это Клод Шеннон. А ведь некоторые из гостей конференции даже не знали, что он все еще жив.

На банкете организаторы встречи как-то убедили Шеннона обратиться к аудитории. Он говорил несколько минут, а затем, опасаясь, что публика заскучает, выудил из карманов три шарика и начал жонглировать. Люди подбадривали его, а затем выстроились в очередь, чтобы взять автограф. Как позже заметил Роберт Дж. Макэлиэс, профессор электротехники в Калифорнийском технологическом институте и председатель симпозиума, выглядело так, будто «сам Ньютон появился на конференции по физике».

Клод Шеннон умер в 2001 году в возрасте 84 лет после многих лет борьбы с болезнью Альцгеймера и по праву считается одним из величайших инженеров электроники всех времен.

«Кто владеет информацией, тот владеет миром»

У. Черчилль

Клод Шеннон (1916–2001)

Рис. 1. Клод Шеннон (1916–2001)

Клод Элвуд Шеннон (Claude Elwood Shannon) (рис. 1) родился 30 апреля 1916 г. в городе Петоцки, расположенном на берегу озера Мичиган штата Мичиган (США), в семье юриста и преподавателя иностранных языков. Его старшая сестра Кэтрин увлекалась математикой и со временем стала профессором, а отец Шеннона совмещал работу адвоката с радиолюбительством. Дальним родственником будущего инженера был прославившийся на весь мир изобретатель Томас Эдисон, имевший 1093 патента.

Шеннон закончил общеобразовательную среднюю школу в 1932 г. в возрасте шестнадцати лет, одновременно получив дополнительное образование на дому. Отец покупал ему конструкторы и радиолюбительские наборы и всячески содействовал техническому творчеству сына, а сестра привлекала его к углубленным занятиям математикой. Шеннон полюбил оба эти мира — технику и математику.

В 1932 г. Шеннон поступил в Мичиганский университет, который окончил в 1936 г., получив степень бакалавра по двум специальностям: математика и электротехника. Во время обучения он нашел в библиотеке университета две работы Джорджа Буля (George Boole) — «Математический анализ логики» и «Логическое исчисление», написанные в 1847 и 1848 годах соответственно. Шеннон тщательным образом их изучил, и это, по-видимому, определило его дальнейшие научные интересы.

После окончания университета Клод Шеннон устроился на работу в лабораторию электротехники Массачусетского технологического института (MTИ) ассистентом-исследователем, где работал над задачами модернизации дифференциального анализатора Ванневара Буша (Vannevar Bush), вице-президента МТИ, — аналогового «компьютера». С этого времени Ванневар Буш стал научным наставником Клода Шеннона. Изучая сложные, узкоспециализированные релейные и переключательные электросхемы устройства управления дифференциальным анализатором, Шеннон понял, что концепции Джорджа Буля могут получить в этой области достойное применение.

В конце 1936 г. Шеннон поступает в магистратуру, а уже в 1937 г. он пишет реферат диссертации на соискание степени магистра и на его основе готовит статью «Символьный анализ реле и переключательных схем», которая была опубликована в 1938 г. в издании Американского института инженеров-электриков (AIEE). Эта работа привлекла к себе внимание научного электротехнического сообщества, и в 1939 г. Американским обществом гражданских инженеров (American Society of Civil Engineers) Шеннону была присуждена за нее Премия имени Альфреда Нобеля.

Еще не защитив магистерской диссертации, Шеннон по совету Буша решил работать над докторской по математике в МТИ, касающейся задач генетики. По мнению Буша, генетика могла стать удачной проблемной областью приложения знаний Шеннона. Докторская диссертация Шеннона, получившая название «Алгебра для теоретической генетики», была завершена весной 1940 г. и посвящена проблемам генной комбинаторики. Шеннон получил докторскую степень по математике и в это же время защитил диссертацию на тему «Символьный анализ реле и переключательных схем», став магистром электротехники.

Докторская диссертация Шеннона не получила большой поддержки у генетиков и по этой причине никогда не была опубликована. Однако диссертация на степень магистра оказалась прорывной в коммутационной и цифровой технике. В последней главе диссертации было приведено много примеров успешного применения разработанного Шенноном логического исчисления к анализу и синтезу конкретных релейных и переключательных схем: селекторных схем, замка с электрическим секретом, двоичных сумматоров. Все они наглядно демонстрируют совершенный Шенноном научный прорыв и огромную практическую пользу от формализма логического исчисления. Так родилась цифровая логика.

Клод Шеннон в Bell Labs (середина 1940-х гг.)

Рис. 2. Клод Шеннон в Bell Labs (середина 1940-х гг.)

Весной 1941 г. Клод Шеннон становится сотрудником математического отделения научно-исследовательского центра Bell Laboratories (рис. 2). Следует сказать несколько слов об атмосфере, в которую попал 25-летний Клод Шеннон, — ее создавали Гарри Найквист (Harry Nyquist), Хенрик Боде (Hendrik Bode), Ральф Хартли (Ralph Hartley), Джон Тьюки (John Tukey) и другие сотрудники Bell Laboratories. Все они уже имели определенные результаты в разработке теории информации, которые Шеннон со временем разовьет до уровня большой науки.

В это время в Европе уже шла война, и Шеннон проводил исследования, которые широко финансировало правительство США. Работа, которую Шеннон выполнял в Bell Laboratories, была связана с криптографией, что привело его к необходимости заняться математической теорией криптографии и со временем позволило проводить анализ зашифрованных текстов информационно-теоретическими методами (рис. 3).

В 1945 г. Шеннон завершил большой секретный научный отчет на тему «Математическая теория криптографии» («Communication Theory of Secrecy Systems»).

Клод Шеннон у шифровальной машины

Рис. 3. У шифровальной машины

В это время Клод Шеннон был уже близок к тому, чтобы выступить перед научной общественностью с новыми базовыми концепциями по теории информации. И в 1948 г. он опубликовал свой эпохальный труд «Математическая теория связи» [1]. Математическая теория связи Шеннона предполагала трехкомпонентную структуру, составленную из источника информации, приемника информации и «транспортной среды» — канала связи, характеризующегося пропускной способностью и способностью искажать информацию при передаче. Возник определенный круг проблем: как количественно оценить информацию, как ее эффективно упаковывать, как оценить допустимую скорость вывода информации из источника в канал связи с фиксированной пропускной способностью, чтобы гарантировать безошибочную передачу информации, и, наконец, как решить последнюю задачу при наличии помех в канале связи? На все эти вопросы Клод Шеннон дал человечеству исчерпывающие ответы своими теоремами.

Следует сказать, что коллеги по «цеху» помогли Шеннону с терминологией. Так, термин для минимальной единицы количества информации — «бит» — предложил Джон Тьюки, а термин для оценки среднего количества информации на символ источника — «энтропия» — Джон фон Нейман (John von Neumann). Свою основополагающую работу Клод Шеннон изложил в виде двадцати трех теорем. Не все теоремы равноценны, часть из них носит вспомогательный характер или посвящена частным случаям теории информации и ее передачи по дискретным и непрерывным каналам связи, но шесть теорем являются концептуальными и составляют каркас здания теории информации, созданной Клодом Шенноном.

  1. Первая из этих шести теорем связана с количественной оценкой информации, генерируемой источником информации, в рамках стохастического подхода на основе меры в виде энтропии с указанием ее свойств.
  2. Вторая теорема посвящена проблеме рациональной упаковки символов, генерируемых источником, при их первичном кодировании. Она породила процедуру эффективного кодирования и необходимость введения в структуру системы передачи информации «кодера источника».
  3. Третья теорема касается проблемы согласования потока информации из источника информации с пропускной способностью канала связи в условиях отсутствия помех, гарантирующего отсутствие искажения информации при передаче.
  4. Четвертая теорема решает ту же задачу, что и предыдущая, но в условиях наличия в двоичном канале связи помех, действия которых на передаваемую кодовую посылку сообщения способствуют вероятности искажения произвольного бита кода. Теорема содержит условие замедления передачи, гарантирующее заданную вероятность безошибочной доставки кодовой посылки получателю. Данная теорема является методологической основой помехозащитного кодирования, которая привела к необходимости введения в структуру системы передачи «кодера канала».
  5. Пятая теорема посвящена оценке пропускной способности непрерывного канала связи, характеризующегося некоторой частотной полосой пропускания и заданными мощностями полезного сигнала и сигнала помехи в канале связи. Теорема определяет так называемую границу Шеннона.
  6. Последняя из теорем, именуемая теоремой Найквиста — Шеннона-Котельникова, посвящена проблеме безошибочного восстановления непрерывного сигнала по его дискретным по времени отсчетам, которая позволяет сформулировать требование к величине временного интервала дискретности, определяемого шириной частотного спектра непрерывного сигнала, и сформировать базисные функции, именуемые функциями отсчета.

Следует сказать, что изначально у многих математиков мира вызвала сомнения доказательная база этих теорем. Но со временем научная общественность убедилась в корректности всех постулатов, найдя им математические подтверждения. В нашей стране этому делу отдали свои силы Хинчин А.Я. [10] и Колмогоров А.Н. [12,13].

В 1956 г. знаменитый Клод Шеннон покидает стены Bell Laboratories, не порывая с ней связей, и становится полным профессором сразу двух факультетов Массачусетского технологического института: математического и электротехнического.

Лабиринт Шеннона

Рис. 4. Лабиринт Шеннона

У Клода Шеннона всегда было много интересов, совершенно не связанных с его профессиональной деятельностью. Выдающийся инженерный талант Шеннона проявлялся в создании всевозможных машин и механизмов, среди которых механическая мышь «Тезей», решающая лабиринтную задачу (рис. 4), вычислительная машина с операциями над римскими цифрами, а также вычислительные машины и программы для игры в шахматы.

В 1966 г. в возрасте 50 лет Клод Шеннон удаляется от преподавательской деятельности и практически полностью посвящает себя своим хобби. Он создает одноколесный велосипед с двумя седлами, складной нож с сотней лезвий, роботов, собирающих кубик Рубика, и робота, жонглирующего шарами. Кроме того, Шеннон и сам продолжает оттачивать мастерство жонглирования, доведя количество шаров до четырех (рис. 5). Свидетели его молодости в Bell Laboratories вспоминали, как он разъезжал по коридорам фирмы на одноколесном велосипеде, при этом жонглируя мячами.

Клод Шеннон — жонглер

Рис. 5. Клод Шеннон — жонглер

К сожалению, у Клода Шеннона не было тесных контактов с советскими учеными. Тем не менее ему удалось посетить СССР в 1965 г. по приглашению Научно-технического общества радиотехники, электроники и связи (НТОРЭС) имени А.С. Попова. Одним из инициаторов этого приглашения был многократный чемпион мира по шахматам Михаил Ботвинник, доктор технических наук, профессор, который также был электротехником и интересовался шахматным программированием. Между Михаилом Ботвинником и Клодом Шенноном состоялась оживленная дискуссия о проблемах компьютеризации шахматного искусства. Участники пришли к выводу, что это очень интересно для программирования и бесперспективно для шахмат. После дискуссии Шеннон попросил Ботвинника сыграть с ним в шахматы и по ходу игры даже имел небольшое преимущество (ладью за коня и пешку), но все же проиграл на 42-м ходу.

Последние годы жизни Клод Шеннон тяжело болел. Он скончался в феврале 2001 г. в массачусетском доме престарелых от болезни Альцгеймера на 85-м году жизни.

***

Клод Шеннон оставил богатое прикладное и философское наследие. Им создана общая теория устройств дискретной автоматики и вычислительной техники, технология эффективного использования возможностей канальной среды. Все современные архиваторы, используемые в компьютерном мире, опираются на теорему Шеннона об эффективном кодировании. Основу его философского наследия составляют две идеи. Первая: целью всякого управления должно быть уменьшение энтропии как меры неопределенности и беспорядка в системной среде. Управление, которое не решает этой задачи, является избыточным, т. е. ненужным. Вторая состоит в том, что все в этом мире в каком-то смысле есть «канал связи». Каналом связи является и человек, и коллектив, и целая функциональная среда, и промышленность, и транспортная структура, и страна в целом. И если не согласовывать технические, информационные, гуманитарные, правительственные решения с пропускной способностью канальной среды, на которую они рассчитаны, то хороших результатов не жди.

Литература
  1. Shannon C. E. A Mathematical Theory of Communication. Bell Systems Technical Journal. July and Oct. 1948 // Claude Elwood Shannon. Collected Papers. N. Y., 1993. P. 8-111.
  2. Shannon C. E. Communication in the presence of noise. Proc.IRE. 1949. V. 37. № 10.
  3. Shannon C. E. Communication Theory of Secrecy Systems. Bell Systems Technical Journal. July and Oct. 1948 // Claude Elwood Shannon. Collected Papers. N. Y., 1993. P. 112-195.
  4. Автоматы. Сборник статей под ред. К. Э. Шеннона, Дж. Маккарти / Пер. с англ. М.: Из-во Ин. лит. 1956.
  5. Robert M. Fano Transmission of information: A statistical theory of communication. Published Jointly by the M.I.T., PRESS and JOHN WILEY & SONS, INC. New York, London. 1961.
  6. www. research.att. com/~njas/doc/ces5.html.
  7. Колмогоров А. Н. Предисловие // Работы по теории информации и кибернетике / К. Шеннон; пер. с англ. под. ред. Р. Л. Добрушина и О.Б. Лупанова; предисл. А. Н. Колмогорова. М., 1963.
  8. Левин В. И. К.Э. Шеннон и современная наука // Вестник ТГТУ. 2008. Том 14. №3.
  9. Винер Н. Я. – математик / Пер. с англ. М.: Наука. 1964.
  10. Хинчин А. Я. Об основных теоремах теории информации. УМН 11:1 (67) 1956.
  11. Колмогоров А. Н. Теория передачи информации. // Сессия Академии Наук СССР по научным проблемам автоматизации производства. 15–20 окт.1956 г. Пленарное заседание. М.: Изд-во АН СССР, 1957.
  12. Колмогоров А. Н. Теория информации и теория алгоритмов. М.: Наука, 1987.
Кто такой Клод Шеннон и чем он знаменит?

Клод Элвуд Шеннон — известный американский инженер и математик. Его работы совмещают связь математических идей с анализом весьма сложного процесса их технической реализации. Клод Шеннон знаменит в первую очередь благодаря разработке теории информации, которая служит основой современных высокотехнологических систем связи. Шеннон внес огромный вклад в ряд наук, которые входят в понятие «кибернетики» — он создал теорию вероятности схем, теорию автоматов и систем управления.

Клод Шеннон — становление инженерного гения

Клод Шеннон родился в 1916 году в городе Гейлорд, штат Мичиган, США. Технические конструкции, как и общность математических процессов, интересовали его с ранних лет. Все свое свободное время он решал математические задачи и возился с радиоконструкторами и детекторными приемниками.

Неудивительно, что будучи студентом Мичиганского университета, Шеннон одновременно специализировался в математике и электротехнике. Благодаря высокой образованности и разнообразию интересов, первый огромный успех к Шеннону пришел уже во время учебы в аспирантуре Массачусетского технологического университета. Тогда ему удалось доказать, что работу электрических схем реле и переключателей можно представить посредством алгебры. За это величайшее открытие Клод Шеннон был удостоен Нобелевской премии. Причину своего ошеломляющего успеха он объяснил достаточно скромно: «Просто до меня никто не изучал математику и электротехнику одновременно.»

Шеннон и криптография

В 1941 году Шеннон стал сотрудником Bell Laboratories, где его основной задачей была разработка сложных криптографических систем. Эта работа позволила ему создать методы кодирования с возможностью коррекции ошибок.

Клод Шеннон за работойКлод Шеннон стал первым, кто подошел к изучению криптографии с научной точки зрения, опубликовав в 1949 году статью под названием «Теория связи в секретных системах». Эта статья состояла из трех разделов. Первый раздел содержал основные математические структуры секретных систем, второй — раскрывал проблемы «теоретической секретности», третий — освещал понятие «практической секретности». Так, главной заслугой Шеннона в криптографии стало подробное исследование понятия абсолютной секретности систем, в котором он доказал факт существования и необходимые условия для существования абсолютно стойких не раскрываемых шифров.

Клод Шеннон стал первым, кто сформулировал теоретические основы криптографии и раскрыл суть многих понятий, без которых криптография, как наука не существовала бы.

Основоположник информатики

В какой-то момент своей деятельности, Клод Шеннон поставил перед собой задачу улучшить передачу информации по телефонным и телеграфным каналам, которые находятся под воздействием электрических шумов. Тогда ученый выяснил, что наилучшим решением данной проблемы станет более эффективная «упаковка» информации. Однако прежде, чем приступить к исследованиям ему пришлось ответить на вопрос, что же такое информация и чем измерить ее количество. В 1948 году в статье «Математическая теория связи» он описал определение количества информации через энтропию, величину, которая известна в термодинамике как мера разупорядоченности системы, а наименьшую единицу информации назвал «битом».

Позже, основываясь на своих определениях количества информации, Шеннону удалось доказать гениальную теорему о пропускной способности зашумленных каналов связи. В годы ее разработки, теорема не нашла практического применения, зато в современном мире высокоскоростных микросхем она находит применение везде, где хранится, обрабатывается или передается информация.

Почти современник

Вклад Клода Шеннона в науку и его результаты трудно переоценить, ведь без его открытий стало бы невозможным существование компьютерной техники, Интернета и всего цифрового пространства. Кроме теорий, которые положили начало развития информационных технологий, гениальный инженер и математик так же сделал вклад в развитие многих других областей. Он одним из первых доказал то, что машины не только способны выполнять интеллектуальную работу, но и обучаться. В 1950 году, он изобрел механическую радиоуправляемую мышку, которая благодаря сложной электронной схеме могла найти дорогу в лабораторию самостоятельно. Также он стал автором устройства, которое было способно складывать кубик Рубика, а так же изобрел Гекс – электронное устройство для настольных игр, которое всегда побеждало соперников.

Гениальный ученый и изобретатель умер на 84 году жизни в 2001 году от болезни Альцгеймера в массачусетском доме престарелых.

Статья была полезна? Поделись!

Добавить комментарий