Google создал самообучающуюся программу
Странный ИИ — самообучился держать платформу у края, хотя логично держать ее по центру.
Где-то через 600 попыток, ИИ обнаружил, что мячик в арканоиде можно забросить в щель между кирпичами и потолком.Какая ему разница: 1 раз он закинет шарик между потолком и кирпичиками и собьет 20 или 20 раз закинет и собьет 20 кирпичей?
Это человеку легче, тк может отдохнут в это время.
правильный ИИ будет сбивать по 1, просчитывая отскок.
Какая ему разница: 1 раз он закинет шарик между потолком и кирпичиками и собьет 20 или 20 раз закинет и собьет 20 кирпичей?Это если бы ты писал простой алгоритм для арканоида, то ты бы просто подводил планку под шарик.
Это человеку легче, тк может отдохнут в это время.
правильный ИИ будет сбивать по 1, просчитывая отскок.
Такой алгоритм прост, оптимален для арканоида, но к сожалению бесполезен во всех остальных задачах.
Это какая-то херня типа как шахматные алгоритмы. Просто тыкание носом во все стороны, пока не повезет. И это при том, что вселенная игр ограничена и компактна.
Странный ИИ — самообучился держать платформу у края, хотя логично держать ее по центру.Зачем и так работает. Времени реакции и скорости обсчёта траектории шарика ему хватает.
На первых сотнях хорошо видно, что такая тактика его и подводит.
что в таком случае делает человек? он начинает думать и за относительно небольшое время находит решение (протягивает цепочку шагов даже если никогда раньше ни с чем подобным не сталкивался. то есть на самом деле специфическая особенность человека (а точнее, естественного мышления) - способность интуитивно решать NP-сложные задачи в огромном пространстве вселенной. и в связи с этим некоторые надежды дает лишь квантовый компьютер. если его допилят хотя бы до честных 128 кубитов, можно будет ожидать чего-то интересного.
что в таком случае делает человек? он начинает думать
ААААА! НОГА! ПИЗДЕЦ! ЧТО ДЕЛАТЬ?! Я БЕЗ НОГИ! АААААА!
но на первых шагах он ломает ногу, или высаживаются инопланетяне, или случается еще какая-то херня, о которой создатели этого робота ну никак подумать не могли. и на этом все.
Собственно для этого и делают самообучающийся ИИ - чтобы решать задачи, которые не были предусмотрены заранее.
он начинает думать и за относительно небольшое время находит решение (протягивает цепочку шагов даже если никогда раньше ни с чем подобным не сталкивался. то есть на самом деле специфическая особенность человекаВ этом никакой магии и сверхестественности нет.
По факту, это обычный алгоритм Дейкстры модифицированный для поиска пути в иерархическом понятийном пространстве.
ps
Иерархическое пространство - это когда для уменьшении объема поиска строятся уменьшенные копии пространства, аналогичные исходному. Например, стопка карт в мастшабе - 1км, 10км, 100км и т.д. и есть такое иерархическое пространство. Всякие - схемы, кроки сюда же.
Понятийное пространство - это пространство описывающие, как разные явления связаны между собой. Например, сначала изучается, что дергание ногой позволяет перемещаться, а также делать больно соседу. Дергание рукой тоже самое, но менее эффективно. Выясняется, что перемещение обеспечивает доступ к ресурсам. Также устанавливается, что если делать периодически больно соседу, то можно заставить его притаскивать ресурсы.
В итоге, это дает понятийный граф по которому хорошо бегает алгоритм Дейкстры, и отлично находит в нем новые пути решения задач, если из-за отказа ноги пропадает часть обычных путей решения.
нога -> (3) -> перемещаться -> (6) -> ресурсы
нога -> (5) -> больно соседу -> (4) -> ресурсы
рука -> (1) -> перемещаться -> (6) -> ресурсы
рука -> (4) -> больно соседу -> (4) -> ресурсы
pps
Основные затыки сейчас в автоматическом выделении явлений из информационного хаоса, а не в самом поиске оптимальных решений.
Теперь надо сделать несколько AI и пусть они между собой конкурируют.
Основные затыки сейчас в автоматическом выделении явлений из информационного хаоса, а не в поиске оптимальных решений.В случае с игрушкой типа арканоида или даже супермарио, информации не так уж много. Разбитые кирпичики, положение шарика и доски. Падения шарика.
А что на счет запоминания и обобщения стратегий?
Проект назвали важным шагом на пути к созданию подлинного искусственного интеллектаэто невозможно
В случае с игрушкой типа арканоида или даже супермарио, информации не так уж много.Информации не много, но явлений много. Угол, траектория, скорость, соударение, выход из региона, полезность, эффективность, количество и т.д.
В итоге, это дает понятийный граф по которому хорошо бегает алгоритм Дейкстрыа циклы в графе этот алгоритм умеет обрабатывать?
Угол, траектория, регионы ит.п. - это производные события. Они могут быть определены через базовые (и делать это не надо за ИИ - понижение размерности его задача)
А что на счет запоминания и обобщения стратегий?С сохранением и запоминанием никаких проблем нет ) Есть проблема с формулированием, что такое стратегия.
В частности нет формализованных ответов на вопросы:
Из каких элементарных кирпичиков состоят стратегия?
Что означает утверждение, что две стратегии похожи/различны?
Как одну стратегию можно разделить на две более элементарных?
Как из двух стратегий сделать одну?
Что такое согласованные стратегии?
и т.д.
Все что ты перечислил - проблемы.
Угол, траектория, регионы ит.п. - это производные события. Они могут быть определены через базовые (и делать это не надо за ИИ - понижение размерности его задача)Хочется, чтобы такое выделение явлений(понятий) делал сам AI, и сам же переопределял их через базовые.

то есть на самом деле специфическая особенность человека (а точнее, естественного мышления) - способность интуитивно решать NP-сложные задачи в огромном пространстве вселенной.Такая способность у человека отсутствует.
и в связи с этим некоторые надежды дает лишь квантовый компьютер.Не дает. Квантовые компьютеры со сколь угодно большим числом кубитов не умеют решать NP-полные задачи за полиномиальное время (в смысле человечество не знает способов, как это сделать).
причём чтоб базовые тоже сам ввёлЭто, кстати, очень интересная задача: какой минимальный объем базовых понятий должен быть у AI, чтобы всё остальное он смог раскрутить из этого набора?
а циклы в графе этот алгоритм умеет обрабатывать?да
ps
Уточню на всякий случай, что словами "алгоритм Дейкстры" в данном треде я обозначаю весь класс алгоритмов, специализирующихся на быстром поиске путей в графе.
Хочется, чтобы такое выделение явлений(понятий) делал сам AI, и сам же переопределял их через базовые.В этом нет ничего суперсложного. Это матстат, сингулярное разложение ковариационной матрицы и вот вместео 100500 мерного базисного пространства получается уже вполне удобное, в котором векторы имеют полезный смысл типа куда шарик летит, стукнется ли он о кирпичик, положение точки предполагаемого падения относительно доски и все такое прочее.
какой минимальный объем базовых понятий должен быть у AI, чтобы всё остальное он смог раскрутить из этого набора?в том-то и дело, что нет такого набора
сингулярное разложение ковариационной матрицыЕсли его просто применить к исходному информационному хаосу, то получится бред (ничего интересного не выделится).
Но вот если сначала сделать ряд преобразований исходных данных: например, рассмотреть как точность предсказания траектории влияет на возможность отбить, то могут выясниться интереные вещи - что для отбития углы близкие к вертикальным более выгодные, чем близкие к горизонтали. Что ударов на угол кирпича лучше избегать из-за их меньшей предсказуемости и т.д.
Дальше возникает вопрос: как научиться находить такие интересные преобразования кроме перебора?
в том-то и дело, что нет такого набораПокажи доказательство (или хотя бы какое-то обоснование) этого утверждения.
Вопрос в том, как эти разнообразные предварительные хитрости обобщить для любой задачи? Мы ж не ради арканоида стараемся.
Осталось только описать пространство перебора. И выделить эвристики, которые позволяют в первую очередь перебирать более интересные преобразования.

Однако, и эта разделька более чем в тему.
Каким образом квантовые компы и алгоритмы поиска по графу относятся к вопросам экономики и общества?
ИИ относится. Не меньше чем темы про космос или тут же на первой странице добро пожаловать в Гаттаку.
Генетические эксперименты над человеком — вопрос социальный. Космос — это из разряда ВПК.
Ученые Google разработали первую компьютерную программу...Интересно, а эта программа научилась играть в знаменитую майкрософтовскую игру Minecraft?
За проект отвечает компания DeepMind, в прошлом году приобретенная Google

Только у фантастов.посмотрим как ты запоешь о том что ИИ социально не значим, когда ИИ сделает тебя не нужным/истребит человечество/решит энергетический вопрос или сотворит ещё что-нить подобное на что он способен.
Генетические эксперименты над человеком — вопрос социальный. Космос — это из разряда ВПК.
Интересно, а эта программа научилась играть в знаменитую майкрософтовскую игру Minecraft?думаю принципиально нет большой разницы с любой другой игрой. мир трёхмерный только, что добавляет некоторой сложности. компьютер даже относительно быстро научится не проигрывать (смерть). вырой три куба в глубь под собой, поставь один куб в верх.
о войне он знает ВСЕ, но на первых шагах он ломает ногу, или высаживаются инопланетяне, или случается еще какая-то херня, о которой создатели этого робота ну никак подумать не моглиОпределись, пожалуйста: знает все, или не могли подумать о херне. А то у тебя неразрешимая проблема уровня утреннего sci-fi-сериала: хитрый герой догадался переключить рубильник в другое положение и тем самым обманул всех и спас галактику.
ИИ сделает тебя не нужным/истребит человечество/решит энергетический вопрос или сотворит ещё что-нить подобное на что он способен.Именно это я и имел в виду, когда упоминал фантастов. Антропоморфизм ИИ — это чисто их выдумки. Настоящему ИИ все человеческое будет чуждо, в том числе геноцид.
Если предположить, что ИИ будет самоулучшаться, то в какой-то момент его мотивация и поступки выйдут за грань человеческо понимания. Тоесть абсолютно не предсказуемо какие цели у него будут и какие методы он для этого выберет. Отбирая у него способность к геноциду ты упрощаешь и сводишь всё к антропоцентризму. Для ии может не быть разницы включить ракетный двигатель от которого вся живность в радиусе километра от старта дохнет и допустим условный гипердвигатель от которого перемрёт вся живность на планете земля включая людишек.
Хотя это опять повторный заход на недавно обсуждаемую тему про ИИ.
Прям абсолютно всё человеческое чуждо?А сам-то как думаешь?
А умение самому ставить и решать задачи чуждо?А это присуще только человеку?
А милосердие чуждо?Оно и людям-то чуждо временами.
Если предположить, что ИИ будет самоулучшаться, то в какой-то момент его мотивация и поступки выйдут за грань человеческо понимания. Тоесть абсолютно не предсказуемо какие цели у него будут и какие методы он для этого выберет. Отбирая у него способность к геноциду ты упрощаешь и сводишь всё к антропоцентризмуНаоборот, считая, что ИИ обязательно будет иметь способность к геноциду ты сводишь к антропоцентризму.
Машины еще очень долго останутся машинами.
А это точно не в перемоги? У них в 80-х уже на турнире по морскому бою программа человеков побеждала и стратегии генерила, вроде.
А сам-то как думаешь?думаю, что какие-то черты могут пересекаться с человеческими. почему нет?
тоесть цели ставить умеет, достигать их умеет, милосердия вполне может быть лишён. так что ему помешает целеноправленно или закомпанию, достигая своих целей уничтожить человечество/весь животный мир/конкретного сигму?А умение самому ставить и решать задачи чуждо?А это присуще только человеку?
А милосердие чуждо?Оно и людям-то чуждо временами.
Наоборот, считая, что ИИ обязательно будет иметь способность к геноциду ты сводишь к антропоцентризму.
Взорвавшаяся неподалёку сверхновая тоже может совершить геноцид. физика звезд - очень антропоцентрична?
Поверю в ИИ только когда создадут алгортим поведения женщины в жизненных ситуациях, остальное профанация.
Поверю в ИИ только когда создадут алгортим поведения женщины в жизненных ситуацияхПфф, женщин как раз элементарнее всего программировать. Функция генерить рэндом есть даже у простейшего калькулятора. )
Ученые Google разработалиПиар гугла на высоте как всегда

ищи в инете Беклемишев. Заметки о женской логике. Например в Стади обсуждалось.
Чтобы самобеглая коляска да ехала быстрее лошади - не бывать этому!Проект назвали важным шагом на пути к созданию подлинного искусственного интеллектаэто невозможно
1) Програмный. Любой аи- это определенный алгоритм, который так или иначе все - таки задан. Хитрожопо, неявно, но задан.
2) Вопрос железа. В мозгу могут образовываться новые синоптические связи в огромных количествах, в железе такое повторить пока невозможно.
Поэтому нет сегодня никакого аи. Прежде всего по второй причине. Есть просто какие - то хитрожопые алгоритмы и не более того.
Програмный. Любой аи- это определенный алгоритм, который так или иначе все - таки задан. Хитрожопо, неявно, но задан.у нейронных сети алгоритмы описывают поведение отдельных нейронов, но не всей сети в целом. так же приблизительно нейроны у тебя в голове. по отдельности простые (ну относительно конечно) и описываются логичными химическими и физическими законами. а в сумме получается нелогичная вата.
Вопрос железа. В мозгу могут образовываться новые синоптические связи в огромных количествах, в железе такое повторить пока невозможно.IBM TrueNorth имеет внутри миллион нейронов и 256миллионов синапсов. соотношение нейронов с синапсами в мозгу чутка повыше, но как-бе прогресс не стоит на месте. 15 тысяч таких чипов по количеству нейронов уже равны коре человеческого мозга. связи между группами нейронов в чипе (аналогом кортесных колонок) там можно динамически изменять перепрограммированием. + существует программная эмуляция связей.

Чет суко нету правда пока аи никак.
Ты там расскажи кому надо, они не в курсе по-ходу.
Поверю в ИИ только когда создадут алгортим поведения женщины в жизненных ситуациях, остальное профанация.Там где-то на первых сотнях обучения в арканоид.
А, ну тогда нет проблеммВсе кто надо как раз в курсе
Чет суко нету правда пока аи никак.
Ты там расскажи кому надо, они не в курсе по-ходу.
Просто в мозгу чуть больше нейронов и связей, поэтому железом их сложновато моделировать.
Все кто надо как раз в курсеИдиотом не прикидывайся. Тебе написали - все спокойно эмулируется программно. Читать умеешь?
Просто в мозгу чуть больше нейронов и связей, поэтому железом их сложновато моделировать.
Все, расходимся. Проблема решена.
Пиар гугла на высоте как всегдаБаблоВообще-то гугл купил deepmind как раз после демонстрации успехов в арканоиде.
думаю, что какие-то черты могут пересекаться с человеческими. почему нет?Конечно, инстинкты, например, присущи всем живым организмам, и их можно запрограммировать даже. Но является ли интеллектом тупое следование своим инстинктам? Нет, наоборот, ограничение и подавление собственных инстинктов можно отнести к разуму.
тоесть цели ставить умеет, достигать их умеетИли не умеет. Цели вполне могут быть недостижимые, не так ли?
милосердия вполне может быть лишён. так что ему помешает целеноправленно или закомпанию, достигая своих целей уничтожить человечество/весь животный мир/конкретного сигму?Само понятие "милосердие" — человеческое. См. ниже.
Взорвавшаяся неподалёку сверхновая тоже может совершить геноцид. физика звезд - очень антропоцентрична?Не путай осознанное желание УВЧ с форс-мажором. Фантасты именно что любят приписывать ИИ желание УВЧ, когда на самом деле скорее всего настоящему ИИ на людей будет строго пофиг. Гораздо интереснее будет посмотреть на взаимодействие двух ИИ. Будет ли это вражда или кооперация?
Фантасты именно что любят приписывать ИИ желание УВЧ, когда на самом деле скорее всего настоящему ИИ на людей будет строго пофиг
О том и речь - настоящему ИИ на людей будет так же пофиг, как человеку пофиг на таракана.
Напомнит, что происходит с тараканами?
Гораздо интереснее будет посмотреть на взаимодействие двух ИИ. Будет ли это вражда или кооперация?
Скорее всего, это будет моделироваться одноразовой дилеммой заключённого - а значит, вражда, если только оба они не суперрациональны.
Идиотом не прикидывайся. Тебе написали - все спокойно эмулируется программно. Читать умеешь?ну во-первых описанному чипу всего пол года, а это первый чип такого уровня. в свободную продажу поступит года через два. во вторых все действительно эмулируется программно. только очень ресурсоемко на процессорах общего назначения.
Все, расходимся. Проблема решена.
Продолжайте наблюдение.
как человеку пофиг на таракана.Когда рука сама тянется к тапку при виде таракана — это уже не пофиг, а глубокая ненависть — очень человеческое чувство.
Напомнит, что происходит с тараканами?
Ебать. Оказывается это ненависть. А я думал гигиена и борьба с распространителем заразы.

У ИИ в машине тоже бывает зараза (компьютерный вирус) и значит гигиена (не запускать присланный по почте бинарь). А лучше сразу перебить всех этих человеков, которые могут бинарь отправить. Как вместо того чтобы конопатить щели в плинтусах стоит один раз произвести дезинсекцию подвала.
А лучше сразу перебить всех этих человеков, которые могут бинарь отправить.

До понятия "гигиена" человек развивался очень долго уже после того, как стал вполне себе человеком. Фактически активно это понятие вошло в обиход только в XX веке. А некоторые тараканы, кстати, употребляются в пищу — то есть полезны. Так что не все так просто.

Гигиена и зараза — тоже человеческие понятия, они тоже будут чужды ИИ.Ну у него вероятно будут другие прагматические интересы и понятия, из которых будет вытекать необходимость убить всех человеков. По крайней мере, обратное ниоткуда не следует.
Ты рассматриваешь геноцид, убийство, как нечто экстраординарное экзотическое, а потому по умолчанию чуждое ИИ. Это неправильно.
Как раз убивать других носителей разума, если их интересы входят в противоречие с твоими - вполне логично.
Не убивать, а достигать взаимопонимания, решать конфликты путем компромисса или в суде - это не естественно. Это сложная искусственная надстройка над базовыми вещами, которую человечество выработало, чтобы не взаимоуничтожиться. Вместо простого, логично и эффективного пути (уничтожить мешающего тебе носителя разума) идти длинным извилистым путем дипломатии, права ит.п. потому что короткий путь закрыт разнообразными социальными табу, уголовным кодексом, религиозными запретами ит.п.
Так что как раз логично ожидать, что ИИ по дефолту не будет стесняться убивать, если ему это покажется целесообразным.
Ты рассматриваешь геноцид, убийство, как нечто экстраординарное экзотическое, а потому по умолчанию чуждое ИИ.Как раз нет. Геноцид и убийство это довольно таки базовые вещи. Они были свойственны людям еще до современных цивилизованных обществ.
Как раз убивать других носителей разума, если их интересы входят в противоречие с твоими - вполне логично.Страшилки из мира фантастов про инопланетян, да.

Не убивать, а достигать взаимопонимания, решать конфликты путем компромисса или в суде - это не естественно. Это сложная искусственная надстройка над базовыми вещами, которую человечество выработало, чтобы не взаимоуничтожиться. Вместо простого, логично и эффективного пути (уничтожить мешающего тебе носителя разума) идти длинным извилистым путем дипломатии, права ит.п. потому что короткий путь закрыт разнообразными социальными табу, уголовным кодексом, религиозными запретами ит.п.Как думаешь, как быстро ИИ пройдет тот же самый путь от "естественного" геноцида к "неестественному" сосуществованию?
Как думаешь, как быстро ИИ пройдет тот же самый путь от "естественного" геноцида к "неестественному" сосуществованию?А зачем ему это? Ну человеки получали выгоду от кооперации друг с другом, а потому выработался свод правил совместного проживания. А ИИ это не нужно.
может вообще никогда не пройдёт. не естественное сосуществование необходимо с равными. ты же не думаешь о том как сосуществовать с тараканами, чтоб всем было хорошо.
забавно читать, как человеки авторитетно обсуждают, как будет вести себя не антроцентричный ИИ
С тараканами, с которыми я не встречаюсь, я вполне себе сосуществую. У меня и в мыслях нет истребить их как вид.

видел эту новость на хабре, только там к ней немного комментов. потому что, оказывается, все спецы по сабжу здесь собрались.
Не убивать, а достигать взаимопонимания, решать конфликты путем компромисса или в суде - это не естественно. Это сложная искусственная надстройка над базовыми вещами, которую человечество выработало, чтобы не взаимоуничтожиться. Вместо простого, логично и эффективного пути (уничтожить мешающего тебе носителя разума)Ох уж эти невежественные фантазии. Не хуественно. Что вообще это слово значит?
raushan27
http://lenta.ru/news/2015/02/26/googleai/Ученые Google разработали первую компьютерную программу, которая способна в процессе самообучения приобретать новые навыки, передает The Guardian. Проект назвали важным шагом на пути к созданию подлинного искусственного интеллекта.
В ходе экспериментов программа продемонстрировала, насколько хорошо справляется с поставленными задачами, научившись проходить 49 различных ретроигр и придумав собственные стратегии победы. Авторы подчеркивают, что самообучаемость отличает их разработку от предыдущих попыток по созданию искусственного разума, предполагавших, что в компьютер будут заложены правила игр и алгоритмы выигрышных стратегий.
Выложенное в сеть видео иллюстрирует, как программа осваивается в видеоиграх. Сначала она предпринимает случайные действия, которые, в основном, заканчиваются неудачей, но после многократных попыток ей удается выработать победную тактику для большинства игр.
Согласно результатам эксперимента, программа действовала значительно успешнее людей только в некоторых играх (Space Invaders, Pong, Breakout). Разработчики объяснили это тем, что у их разработки пока нет модуля, имитирующего человеческую память, и поэтому она не может разрабатывать долгосрочные стратегии. Сейчас в команде работают над созданием такого модуля, чтобы проверить, как программа справится с более реалистичными трехмерными играми.
За проект отвечает компания DeepMind, в прошлом году приобретенная Google за 400 миллионов фунтов. Ее цель — создавать «умные машины».