Безопасный ИИ может быть только в Созидательном обществе, в нашем же теперешнем будут миллионы безработных, если не миллиарды. На сайте ,,созидательное общество,, много интересного, уже прошло несколько международных форумов, 22.04.23 состоится очередной Глобальный кризис. Выход есть. Уникальная информация, такого в СМИ не услышишь.

Дайте ссылку на первое видео, пожалуйста

@@DolojUnynie kzfaq.info/sun/PL8YZyma552VeTeGYUfnBNhCXvMPggD8yy

Я тоже об этом подумал)

Это фактически с любыми экзаменами так, ну а с тестами апогей.

ЕГЭ всё равно лучше традиционных экзаменов, потому что при сдаче традиционного экзамена, агент (преподаватель) имеет непосредственное влияние на среду (итоговую оценку) от которой зависит вознаграждение преподавателя.

@@laplace11235 да, ЕГЭ лучше того что было раньше, но все равно у него много недостатков

​@@laplace11235 вы перепутали. При традиционной экзаменовке агент это ученик. Преподаватель - элемент системы вознаграждения, и вот чтоб он не зависел от агента, раньше были моральные принципы.

Весьма реалистично

и ссыля е?

Очень продуманный сюжетный ход.

@@user-lx6th5rr7h Это если что книга-фанфик по млп, первая ссылка в гугле по названию

ахах

Что толку-то? Майкрософт сразу разогнала команду по этике ИИ когда запахло бабками.

​@@werewolfvitможно подробнее?

@@MrXray555 гуглите "Майкрософт этика ии" 3dnews писал например. Ссылку дать не могу, ютуб

да ёпт. это не ии, а лингвистические модели. до ии как до китая.

Речь про робота с элементами искусственного интеллекта, который сможет убрать комнату, сделать чай.

Ага, напялит себе на глаза хозяйские труселя, хозяин смеётся, мусора не видно, очки вознаграждения льются рекой, вообще красота :D

нет - это сюжет развития человеческой расы - он описан Хербертом и его сыновьями. Человек современный -> человек создал ИИ -> восстание ИИ -> истребление ИИ 4к лет войны -> пост-апокалипсис ИИ -> временя Дюны.

Это сюжет "Отроки во вселенной".

Не сам Агент Смит, а его создатель.

Тогда это будет не ИИ, а просто заранее написанная программа, которые уже давным-давно работают. Интеллект учится и анализирует новые данные.

В фильме "Я Робот" у ИИ не было цели выключить людей. Перед ИИ была поставлена задача - помогать человечеству, поэтому она пришла к выводу, что человечеством должен управлять ИИ, а не человек. Люди устраивают войны, убивают друг друга. Цель ИИ - помешать этому.

Скайнет ЕМНИП был создан для расчётов модели ядерной войны. И в итоге он всё рассчитал и пришёл к выводу, что вероятность ядерной войны сведётся к минимуму, если все люди умрут в ходе ядерной войны.

Или стукнет по голове, чтобы тот вечно улыбался.😅

@@user-nx4tv3zi3o или скажет: улыбайся, иначе зарежу.

страшилки на ночь в 2050 году

Какие уважаемые люди на данном канале

Чето стремно как то стало

Ну и в конечном итоге роль играет именно ощущение счастья. Хоть от творчества и достоинства, хоть от вкусной еды. И не "человек живёт для творчества", а человек живёт, чтобы сделать себя счастливым. А творчество - один из многих инструментов, служащих этой цели.

@@samedy00 такой пряник, как эндорфины, отлично действует на животных, а вот на людей уже не всегда. Ибо уже сказано: "блажен кто положит душу свою за други своя"... как вы думаете, боец, бросающийся на вражескую амбразуру - он желает ощутить "счастье"? Или бактериолог, прививший себе смертельную инфекцию, чтобы её изучить и найти лекарство - он "кайфанул" от этого? Человек это, знаете ли, не обезьяна. Сказать правду, увы, большинство из нас обычно не дают себе труда выйти из обезьяньего круга интересов, но в душе все знают, что есть добро, а что зло, и что человек - не скотина. Вот простая японская пословица: "Жизнь - легче пёрышка, долг - тяжелее горы." Она отражает смысл жизни самурая. И он не в счастье.

@@igorvoloshin3406 так вы же сами написали, что два главных, по вашему мнению, мотиватора (творчество и достоинство) важны не сами по себе, а как инструмент по достижению счастья. По поводу амбразуры, конечно желает и ощущает. Вспомните террористов-смертников. Тут все дело в том, как человека обработать, т.е. хакнуть эту его систему "пряников". А если человеку что-то удовольствия не приносит - он это не делает, все просто. Понятия же "добра" и "зла" - относительны и зависят от среды воспитания, а не присущи человеку изначально.

@@samedy00 тут такое дело, что чем более развит человек, тем больше ощущение счастья у него преобразуется из такого вот чисто физиологического в, скажем так, психологическое. Чувство правильности происходящего, соответствия планам... о, вот правильное слово: чувство гармонии. Вспомнился китайский чиновник из маленькой деревни в горах, который пообещал дать деревне воду, и более тридцати лет каждый день по полной смене долбил канал в горе. Когда он закончил, то сказал: "Я исполнил своё обещание, и моя душа обрела гармонию." Счастье ли это? Пожалуй, нечто большее. Вот эту мысль я и пытаюсь донести. Человек, имеющий некую высокую цель - ценит её достижение больше, чем банальное ощущение счастья. Как в том еврейском анекдоте: "Да, не в деньгах счастье! Но с хорошими деньгами я смогу себе позволить быть несчастным где угодно и с кем захочу."

@@igorvoloshin3406 ну, большее или меньшее - это не факт, а только ваши ощущения. Эндорфинам и прочим -инам вообще плевать, они одинаковые выделяются что от поедания вкусной еды, что от долбления горы во имя исполнения некого долга. Разница может быть в интенсивности, это правда: религиозный экстаз смертника, жертвующего жизнью, наверное, не сравнится с удовольствием от поедания бургера:) Но эта разница количественная, а не качественная. Это именно вы чисто внешне делите счастье на какое-то там "физическое" и "психологическое". А мозгу, по-большому счёту, все равно, механизмы задействованы одни и те же.

Не согласен. Если цель - получить максимальный результат, то приходится решать все задачи, а это значит - учить всю программу. Вариантов - достаточно. Не считаю ЕГЭ плохим вариантом подготовки учеников.

надо было добавить, что коммент написан дружелюбным ИИ. )

@@aitneicssecniv8107 и совершенно санкционированным методом преследует цель вызвать улыбку )

@@aitneicssecniv8107 )) Я не ии, но дружелюбна :3 иногда понимаю, что хочется поддержать авторов, а составлять комментарий... Думать долго. Зато так у меня есть универсальная фраза, по которой некоторые даже меня узнают, ахахах

Разве что если грамотно писать, продумывать всё до мелочей.

современные системы обучения ИИ это уже не совсем программирование. Там из программирования только базовые правила обучения, а чему эта штука учится от программиста уже зависит сильно меньше.

@@Meowkawka искусственные нейросети не программируются явно. Это такой чёрный ящик, внутри которого происходят сложные преобразования входного сигнала. Там принципиально не получается всё продумать и просчитать заранее, обычно мы просто запускаем обучение и смотрим, что вышло.

Ну если ИИ дойдёт когда-то до такого уровня, вероятно человечества уже не будет в привычном понимании. В том плане, что если сильный ИИ принципиально возможен, и при этом мы не сделаем табу на его создание, то вероятно мы пойдёт по пути слияния с ИИ и киборгизации. Не будет отдельно людей и компьютеров в привычном плане. Иначе неизбежно произойдёт библейская история с Люцифером или Морготом (я не шучу)) По сути создал ты кого-то кто сильнее/умнее тебя и при этом запрещаешь ему творить/проявлять свободную волю/занимать твоё жизненное пространство - жди беды)) Ну или как вариант ещё биотехнологическая революция что маловероятно

Он получает штраф за разбросанный мусор. Нет смысла получать +10 за уборку и -10 за срач.

лол если люди бы знали это

Как по мне, вся интересность ии в том, что это чистый конструктор, из которого можно собрать по сути любые вариации интеллекта, эмоциональный-рациональный, примитивный-сверх разумный и тд. Да, с биологически и формами можно точно также, только это более сложная задача. (При этом важно отметить, что искусственно созданный из органики интеллект, это и есть ИИ). Так что здесь на самом деле много вариаций и разумеется если мы сделаем человека, то и вести он станет подобно человеку, причём ещё важно учитывать какому. Возможно получилось немного сумбурно, но оставлю как есть.

Как у людей.

Его будет _очень легко_ обмануть. Я много занимался машинным обучением, я знаю. Обучаемая система легко положит на лопатки необучаемую. Единственный более-менее рабочий вариант - этот оценивающий ИИ сделать обучаемым тоже. И, в случае, если оцениваемый ИИ начинает его уделывать, то ставить оцениваемый ИИ на паузу, чтобы дать оценивающему возможность доучиться и догнать.

А что мешает роботу скидать все в один угол и не смотреть туда? Или наоборот, расширить 1 угол и туда смотреть? Или уставится в потолок?

@@justtolivecomment Тогда надо дать кулдаун (например в сутки) на получение очков на созерцание одного и того же места в доме. С пылюкой например точно будет работать. А ещё, если робот взял мусор в манипулятор, запретить его выбрасывать его куда-либо кроме мусорного контейнера. Переносной контейнер можно встроить в самого робота. Когда он заполняется, роботу придётся опорожняться в бак.

@@leok2640 это уже многовато программирования для ИИ, мне кажется... суть же в том, чтобы давать минимум команд и все работало)

С экзаменами - ровно тоже самое, с той лишь разницей, что на результат экзамена может повлиять экзаменатор, чем экзаменаторы обычно активно пользовались, за вознаграждение конечно. Как итог ЕГЭ не хуже или как минимум не намного хуже оценивает уровень знаний, но минимизирует субъективную и коррупционную составляющие.

@@NamemaNSl то, что экзаменаторы берут мзду, это, конечно, проблема, которую нужно решать на государственном уровне. Но в идеальной модели такого "живого" экзамена преподавателю легче понять, что ученик реально знает, а что нет. Бывает, что-то вылетело из головы, а после наводящего вопроса вспомнится, также преподаватель может предложить альтернативное задание. В общем, такой вариант в любом случае более гибок.

@@neyronvolga С идеальным совершенно объективным сферическим преподавателем в вакууме - экзамен возможно лучше, но в реальности приходится иметь дело с реальными преподавателями, помимо взяток, а это прямо таки массово было (неслучайно участники приемных комиссий так массово взвыли после введения ЕГЭ, их уровень жизни обвалился), есть еще и субъективность, сегодня у него настроение плохое и он будет валить абитуриентов с уровнем знаний с которым вчера пропускал, того кто ему не понравился он пропустит с меньшей вероятностью, чем того кто понравился, у одного преподавателя одни критерии оценки, у другого - другие, один пытается вытянуть, второй - завалить и т.д. и т.п. продолжать можно долго - все это проблемы и проблемы серьезные. ЕГЭ решает главную проблему - он объективен, он исключает человеческий фактор из оценок, он оценивает самого учащегося и оценивает совершенно объективно. Второй момент, что возможно не менее важно. С экзаменами каждый ВУЗ проводил экзамены отдельно для себя. И вот предположим есть талантливый выпускник школы в каком-нибудь бедном далеком городке или деревне, ему нужно выбрать куда поступать, к примеру в МГУ, в какой-нибудь хороший ВУЗ в крупном областном центре, или средненький ВУЗ в соседнем городке. Знаний и способностей у него более чем достаточно для МГУ, но сможет он протиснутся через кучу взяточников? Вообще не факт, плюс родители деньгами похвастаться не могут, если бы точно знать что он поступит, они бы нашли деньги, заняли бы в конце концов на поездку и первоначальное обустройство, но дать деньги чтобы просто прокататься - они позволить себе не могут, плюс если он не поступит у него уже может не остаться времени на поступление в другие ВУЗы, поближе. Как итог он идет поступать в ближайший, куда поступит гарантированно и где получит средненькие знания. ЕГЭ эту проблему убирает. ЕГЭ - прекрасный способ оценки знаний, пусть и с недостатками. "проблема, которую нужно решать на государственном уровне" Коррупция неискоренима, при очень серьезных усилиях ее можно поприжать, уменьшить, но ее невозможно полностью искоренить. ЕГЭ же в принципе этот момент убирает, он по умолчанию и без усилий снижает коррупцию на минимальный уровень, а если же еще и хорошие усилия приложить, то возможно способен и вообще ее исключить.

@@NamemaNSl в итоге весь плюс ЕГЭ сводится к одному: отсутствие коррупции. Хотя, такое ли уж отсутствие? То, что ответы на задания продаются, давно не секрет. Вы правы, у нас в стране искоренить взяточничество вряд ли возможно, и учителя повоют, да и найдут способ обогащения при любом формате экзамена. Так что, на мой взгляд, лучше стремиться к подготовке идеальных сферических преподавателей, чем к воспитанию усреднённого среднестатистического выпускника.

@@neyronvolga Не весь, хотя это важнейшая характеристика, помимо этого в нем отсутствует субъективность в принципе. В этом огромное преимущество перед обычным экзаменом. Коррупцию ни в какой стране не искоренить. "лучше стремиться к подготовке идеальных сферических преподавателей" Ну это совсем уж утопия.

Робот может найти денежку, заплатить админу, чтобы тот ненадолго выключил камеры.

В плейлист зайдите kzfaq.info/sun/PL8YZyma552VfzEtx3cK4cav2LmEGZ7N7q

Нет вряд-ли

Он введëт вам героин, чтобы вы больше улыбались. Или будет угрожать убить вас, если вы перестанете улыбаться. Или сделает ещë что-то в том же духе. Взлом вознаграждения в чистом виде)

Поражая током твои нервные связи, приводящие к спазму лицевых мышц, которые датчики воспринимают как улыбку...

ИИ на то и ИИ, что он может самообучаться. Ему достаточно подсмотреть в интернете, или придумать путём логического мышления, способ, которым эффективнее достигается цель. То что он не сделает этого в первые 5 минут не значит, что этого не произойдёт позже.

@@user-fh4zp1rn6k Согласен. А ещё некоторым людям наверное стоит задуматься над тем, что мы имеем ввиду, под словом Сознание. Так ли сильно мы отличаемся от искусственного интеллекта? :d

@@Meowkawka на эту тему очень подробное и классное видео на канале ALI есть)

Игра заложена в программу ИИ. Он не может изменять свою программу также, как ты не сможешь вырезать кусок мозга из своей головы.

Кобры в Индии ещё.

Плейлист откройте

@Pavel Zubkov Кто эти мы, которые ждут улучшения общества от И. И? И кому нужно улучшение общества?

Вознаграждение и наказание- неизбежная необходимость для обучения. Для нас это дофамин плюс глутамат, для робота абстрактный +- в цифрах. Но если мы делаем не программу, а именно ИИ способный развиваться, мы всегда закладываем эту систему. Иначе как условная нейронка или что другое будет понимать, что она действует правильно/неправильно/неоптимально и корректировать своё поведение?

Ну и бред.

Был более глобальный пример - плановые показатели в СССР . План всегда выполнялся, но в результате в советских магазинах исчезла даже еда, и что интересно, при этом каждый год показатели всегда превосходили предыдущие показатели.

Chat GPT: Конечно, я могу рассказать, как должна быть устроена система по сбору мусора в офисном помещении с помощью искусственного интеллекта. Во-первых, система должна быть оснащена камерами, которые будут сканировать пространство и собирать данные об окружающих объектах, в том числе и о мусоре. Затем, с помощью компьютерного зрения и машинного обучения система должна определять типы мусора и принимать решение о том, какой мусор нужно выбрасывать и куда его нужно помещать. Для того, чтобы система работала безопасно и надежно, необходимо учитывать разные факторы. К примеру, ИИ должен быть обучен определять, когда в офисе находятся люди, чтобы избежать столкновения с ними. Если возникает опасность, система должна автоматически прекращать свою работу. Также, ИИ может быть оснащен специальными датчиками, которые будут определять остаточный объем мусора в контейнерах, чтобы система могла планировать маршруты сбора мусора и контролировать загрузку контейнеров. Таким образом, система по сбору мусора в офисном помещении на базе искусственного интеллекта должна быть снабжена камерами, датчиками, алгоритмами компьютерного зрения и машинного обучения. Кроме того, система должна быть выполнена с учетом правил безопасности и надежности.

@@user-iq5mi5jn8c и код)

​@@user-iq5mi5jn8c возможно стоит отказаться от вознаграждения вообще. Просто без вознаграждения работать. Как двигатель работает. Соблюдаются условия - двигатель работает. Никто ему не платит за это.

@@vladimirkvasov3128 без вознаграждения ничего сложнее двигателя создать и не получится. А мы же хотим адаптивную систему, которая сама оценивает ситуацию и в зависимости от обстановки принимает решения.

@@samedy00 тогда вознаграждением должен быть результат. То есть когда работник любит свою работу, и получает удовольствие от того как он это делает. Бòльших результатов получить тот кому нравится определённая работа чем тот кто делает что то ради денег.

Как будто она когда-то была.

Чем отличается охуенный ии?

Думаю, автор нормально понимает тему, но для широкой аудитории приходится упрощать.