← Итоги года: что прихвачено в ушедшем 2015 году (1/2)
Обсуждение
Читать и комментировать в ЖЖ ↗
"тремя страницами краткого изложения моей позиции () и меня вдруг втянули в ONTOLOG Trustee Board ()"
Ссылки пропустил!
Комментарий
Tnx, fixed.
Комментарий
"различным предпринимательским и инженерным идеям в хорошей форме деятельности выжить можно"
Выучить наверно? Вообще перечитай с утра, там, кажется, много такого мелкого.
Комментарий
Именно "выжить" -- там противопоставление с "каюк".
Комментарий
(Хихикнув)
"Гуманитарно одарённым" стать проще и компьютеру, и человеку. А вот для того, чтобы выйти на инженерную одарённость, нужно по сравнению с гуманитариями пахать, пахать, и пахать
"Парадокс Моравека" наоборот...
Комментарий
Выжить-выжить!!!
Комментарий
Количество вычислений не означает их сложности, этого Моравек не учитывает. ))) И опять же, реализуемая на нейронной сетке сложная и ветвистая логика -- это пахать, пахать и пахать по обучению этой нейронной сетки )))
Комментарий
Но крайне интересно!!!
Комментарий
"стало хватать вычислительных мощностей"
И стало хватать храбрости сильно загружать эти мощности, наперекор экономности.
Кажется, что для развитой нейроэволюции понадобится экспоненциально нарастить такую храбрость и это себя окупит.
Комментарий
Да ладно, эти мощности загружались для отрисовки драконов и замков в компьютерных играх до того, как их начали загружать люди из deep learning. И как пишущие машинки компьютеры начали использовать в доисторические времена, и не жалко было редких тогда ещё вычислительных мощностей для такой загрузки. А сейчас так вообще кино смотрят с дикими вычислениями картинки для этого просмотра и дикой загрузкой каналов связи.
Так что никакой храбрости тут не требуется.
Комментарий
Храбрость IBM и Samsung, выпустивших партию нейроморфных TrueNorth масштабов подложки на хорошем техпроцессе -- не побоялись критики, что пока мало софта под него. На обычных чипах из-за синхронизаций чем больше тредов, тем меньше производительность одного треда, это ограничивает рост масштаба, а со спайковыми чипами открывается дорога к экзамасштабу, правда не к экзафлопсу, а к экзасопу. TrueNorth выглядит преждевременным, но вот посмотрите на абстракт этой пдфины, авторы сделали более эффективный конвнет без умножений
http://gitxiv.com/posts/FE8DeEN97Z6GR5Kvq/neural-networks-with-few-multiplications
что дает намек, что TrueNorth вполне удачен, к нему лишь надо добавить немного эволюции.
Я зациклился на TrueNorth потому, что он реально существует и техпроцесс у него хороший, в отличае от остальных. Больше нейроморфных чипов, хороших и разных!
Комментарий
А что Сергей Ковалёв, появлялся еще у вас? Что-то ничего от него не слышно.
Комментарий
Да, появлялся на заседании отделения INCOSE в декабре. Но ни о каких новых результатах он не докладывал пока.
Комментарий
Да я знаю про эту работу по ссылке, дважды про неё писал: тут http://ailev.livejournal.com/1197148.html?thread=13047644#t13047644 и тут http://avlasov.livejournal.com/154789.html?thread=634021#t634021
Насчёт TrueNorth я уже писал: храбрость тут не спасает )))
Комментарий
"-- beyond deep learning (нейроэволюция как минимум и дальше по всему списку)"
Забавный стартап был основан летом 2015-го
https://nnaisense.com/
"Perception and motor control"
"Large-scale neural networks"
"Build small animal-like AI that learns to think and plan hierarchically like a crow or a capuchin monkey"
Два основателя и CEO нейроэволюционщики + reinforcement learning, президент основоположник RNN и LSTM.
Один из основателей спец по эмоциональному компютингу.
Извините, что отвлекаю
UPDATE:
Понял, где я слышал, где вы про это рассказывали. В видео доклада "Выучивание зрительно-моторной координации в киберфизических системах" на заседании INCOSE
Комментарий
Про nnaisense я знаю с момента основания (был большой шум по этому поводу), но я пока не рассказывал о конкретных достижениях этой компании. Компания от своего имени пока ничего особенного не продаёт, хотя учредители там знаменитые, да.
Комментарий
Вы приводили пример капуцина Шмидхубера. Он говорит, что на капуцина у эволюции ушло миллиарды лет. От себя уточню, что миллиарды лет ушли на одноклеточные огранизмы, бактерии, а не на самого капуцина. Клетки вооружились широким арсеналом инструментов, который позволил им быстро эволюционировать в качестве многоклеточных организмов. Из этих инструментов я бы отметил возможность мутационного удвоения некоторых частей генома, и фрактальная генерация структур.
Правда я не биолог, извините за неточность терминологии.
Комментарий
на гугл школар оказывается перечень его работ
https://scholar.google.com.hk/citations?hl=ru&user=gLnCTgIAAAAJ&view_op=list_works&sortby=pubdate
Последняя от 30 ноября "On Learning to Think: Algorithmic Information Theory for Novel Combinations of Reinforcement Learning Controllers and Recurrent Neural World Models"
http://arxiv.org/pdf/1511.09249.pdf
Наверное и стартап этим занимается?
Комментарий
Анатолий Игоревич, есть ли у Вас есть возможность показать нотацию из http://habrahabr.ru/post/259291/ Гради Бучу, например, через Ивара Якобсона?
У меня есть некоторые параллели с UML: http://habrahabr.ru/post/176935/