Я так и не понял какой вывод предлагаете кроме фатализма?
Системный риск это из мира финансов “Системный риск — это риск краха всей финансовой системы или всего финансового рынка…” Другого определения гугл навскидку не предлагает, а в финансовых терминах идет дальше детализация (это не какая-то метафора, а вполне предметное понятие). Не понял причем тут это.
Здесь конкретные проектные риски (надеюсь понимаете, что это?), если мы говорим про разработчиков - кто-то сооружает AGI (и явно не остановится на достигнутом если до этого дойдет), есть связанные с этим риски которыми надо управлять. Есть сценарии на основе которых можно мероприятия по управлению рисками формировать и их реализовать. И если кто-то не занимается в проекте такого масштаба управлением рисками - это непрофессионально. Только и всего.
Артур @asuilin, вашу позицию увидел следующей - поправьте, если понял неправильно:
Из всех разновидностей ИИ, имеет смысл говорить только об уже созданных, известных и обязательно публичных нейросетях. Но содержательно говорить о них могут только узкие специалисты. Пользуйтесь нейросетями и не рассуждайте, за вас все решат узкие специалисты и сами нейросети, кроме них больше никто не компетентен. Вы в любом случае ничего не понимаете и понимать не можете. Узкие сециалисты тоже многое не понимают, но вам об этом знать ни к чему. Это совсем не больно. А если больно, то от вас все равно ничего не зависит, поэтому помолчите и не фантазируйте. Как будет, так и будет!
Системный риск это не из мира финансов, он просто к вам ещё не постучался (и слава Богу). Когда постучится - вспомните нашу дискуссию. Самый банальный пример - вы читали умные книги про ИИ, планировали свою жизнь на много лет вперёд, а потом пришла повестка и всё пошло совсем не по вашим планам, и хорошо если живы останетесь и вернётесь к планам, а может быть и по другому. У Талеба это называется “парадокс Индюшки”. Индюшка тоже строила долгсрочные планы, исходя из своего жизненного опыта, пока не попала на убой.
Это мы говорили про ваши персональные риски, котрыми вы можете управлять. Рисками развития ИИ ни вы ни я управлять никак не можем, и влиять на его развитие тоже не можем. Получается, что чтение книг про далёкие перспективы AI не имеет практического смысла (ну разве что как гимнастика для ума), поскольку единственная возможная роль для нас с вами это пассивный наблюдатель - эту мысль я и пытаюсь донести.
Кесарю - кесарево.
Моя позиция про “нейросети будущего” изложена выше.
Еси же говорить про день сегодняшний, то чтение книг про “перспективы AI” никак не приближает вас к пониманию того, как они работают, что они умеют и что не умеют. А рассказать вам это понятным языком могут - о ужас! - только специалисты, у которых это понимание есть. Поэтому спрашивайте что хотите узнать, расскажу, мне не жалко. Вот как устроена нейросеть, уже объяснил
И не читайте про нейросети в массовых СМИ - это тоже не принесёт вам понимания, а принесёт только ненужные тревоги.
Вы когда ко врачу идёте, тоже с ним спорите, что лучше знаете всё про здоровье, потому что закончили Физтех и прочитали много статей в Инернете? А то врач видите ли слишком узкого профиля специалист, знает только про свою проктологию, а больше то и ничего и не знает, и вдаль не видит.
Глупо и странно соглашаться с мнением “врача” только потому, что он на врача выучился и практикует в медицинской сфере в качестве узкого специалиста. Для более объективного мнения существует понятие консилиума врачей. А, например, в США компетентность врачей и оправданность конкретных врачебных рекомендаций тщательно проверяется страховыми компаниями. И да, в своей жизни на примере своего организма сталкивался с тем, когда врач оказывался кардинально не прав и прописывал ошибочное лечение.
Все же хорошая ветка Как не соглашаться?! Я же исхожу из того, что мы здесь не играем в “Царя горы”.
То есть вы требуете консилиум каждый раз сзывать, когда имеете дело с врачом? Что ж, давайте и здесь созовём, я буду только рад, меня перестанут обвинять в узурпации столика. Проблема в том, что из “врачей” я здесь один и консилиум по нейросетям будет состоять из одного меня. Не потому что я такой злой и вредный, а потому что это сайт про аудио и вероятность найти других специалистов из этой области здесь почти нулевая.
Круто! Лучше не скажешь! Это действительно проблема. Да! Настоящая проблема человечества в том, что узкий круг людей, близко допущенных до реализации нейросетей, вообразили себя богами, единственно способными принимать компетентные решения, чему эти сети обучать, где, как и с какими целями их использовать. Своей позицией вы доказали это лишний раз.
Человек, погружавшийся в своей жизни в научное сообщество и познавший суть научного мышления, обязательно приобретает иммунитет, позволяющий отличать зерна от плевел и видеть разницу в уровне компетенции простого инженера, доктора наук или академика - даже, если эти звания формально присвоены не были. Спасибо за общение. Но нет!
А можно наивный вопрос?
Какую цель ставят перед собой специалисты по нейросетям?
Вот у врачей цель, вылечить человека, у строителей построить дома, дороги, мосты для человека, у военных, защитить человека и т.д. Т.е. каждая профессия осуществляет, в идеале, какую-то функцию для человека.
А какую функцию осуществляют разработчики нейросетей? Они же не просто кодеры?
Алекс, это вы опять в статье в Интернетах прочитали? Говорил же, не надо читать советских газет. Нет никакой закрытости реализации нейросетей, да хоть сейчас идите в Сбер или в Яндекс, если у вас достаточная квалификация (прикладная математика Физтеха - недостаточная), вас там с руками оторвут и будете работаь на пользу человечества, двигать прогресс, а не строчить сообщения в Баре. Поработаете несколько лет, хорошо себя проявите, а там и рулить дадут. Будете сами решать, что и как обучать и где использовать - естесвенно, когда у вас вырастут до нужного уровня компетенции.
Прикладные разработчики - по сути просто кодеры, только кодируют более крупными блоками.
Исследовательские разработчки - исследуют, пробуют всякое, двигают прогресс вперёд. Какая цель то том, чтобы двигать прогресс вперёд это сложный вопрос не совсем для этого столика. По сути цели давно уже нет (с тех пор, как Модерн ушёл со сцены), это просто превратилось в спортивное соревнование ради соревнования, кто дальше прыгнет.
Вы постоянно путаетесь в понятиях или их применении. Давайте еще раз по примерам выше.
“Системный риск” в формальном плане - финансовый термин. Как сленг, что вы под этим можете подразумевать примерно понять можно, но гадать нет смысла.
“Парадокс индюшки” - это частный случай черного лебедя Талеба. Т.е. редкого и непредсказуемого для наблюдателя события. Здесь же мы рассматриваем прогноз, т.е. как раз предсказание редкого события (когда появится AGI и взлетит далее). Противоположные по сути вещи.
Мы не можем управлять развитием ИИ, аудиоиндустрии, музыкальной индустрии и много чем еще, однако это не мешает нам все это обсуждать. Как пример, при наличии прогнозов подобного потенциала трансформации в мире аудио, что на этом форуме советовали бы - да забейте, это все ерунда, пусть инженеры работают.? И все такие подумали бы - ну да кесарю кесарево, а нам то что и разошлись от столиков?.. Даю прогноз - это не самый реалистичный сценарий ))
@asuilin, Артур, ну что вы право слово? В терминах аудио-мира, линия поведения выглядит как у матерого такого мастера-инженера который свою железяку пилит и дальше этого пиления для него - черный ад и запрет на общение. Мы ж про красоту общаемся, если в целом? Может выдохнем и с радостью посмотрим в распахнутые горизонты? ))
Артур, оставляю за вами последнее слово. У нас с вами принципиально разные аксиоматические установки, мы даже пользу для человечества и прогресс видим по-разному.
Cобытия в нашем мире не изолированы друг от друга. Прилетает чёрный лебедь, и вся цепочка зависимых событий заваливается набок. А исследования - они очень зависимы от финансов, а финансы зависимы от политической ситуации и так далее. Предсказание “когда появится AGI” подразумевает, что никакой чёрный лебедь не перелетит через дорогу, и всё будет идти в обычном порядке. А если прилетит? А если не один? Судя по тому, что сейчас происходит, спокойный период когда “всё идёт своим чередом” - закончился надолго. Поэтому никакие долгосрочные прогнозы сейчас не будут работать.
В мире аудио по сложности с обучением нейросети уровня GPT сопоставима наверное только разработка чипа ЦАП-а. Что-то я не вижу в Баре советчиков, которые знают, как лучше сделать чип ЦАПа. Вот какие провода к ЦАП-у поставить это сколько угодно, а на чипы никто не покуашется.
Но зато за этим столиком с удовольствием дают советы разработчикам нейросетей. Удивительно, не так ли?
Потому что там развитие идёт спокойно, нормальными темпами. Вокруг же нейросетей образовался такой толстый слой хайпа, что понять, что там на самом деле происходит, обычному человеку стало решительно невозможно. Везде псевдосенсации, ИИ завтра всех убъёт, ИИ завтра всех уволит с работы, и т.п. Обсуждение этих вбросов может породить только новые вбросы, и так до бесконечности. Какой в этом смысл? Лучше ничего не обсуждать, чем находиться в эхо-камере вбросов.
Я предпочитаю общаться по красоту чего-то реально существующего или того, что создаётся прямо сейчас. А обсуждать “туманные перспективы” не очень люблю, посколько у такого общения низкий КПД - всё равно потом всё идёт не так. Тем более в мире нейросетей случайное открытие может сдвинуть гору, а может и наоборот, гора будет стоять и никак к ней не подступиться.
Исследование в мире нейросетей работает не так целенаправлено, как в мире классических точных наук. Не существует никакой “теории работы нейросети”, и все открытия делаются методом научного тыка, повезёт/не повезёт. То естьт в целом они все - случайные.
Съели несколько индюшек и конец цивилизации? )) Нет наверное?
Вы даете свой долгосрочный прогноз, что “спокойный период когда “всё идёт своим чередом” - закончился надолго” и тут же пишете “никакие долгосрочные прогнозы сейчас не будут работать” ))
А я вам о чем талдычу все эти длинные посты? Про сценарии приближения точки радикальных изменений в части ИИ (то что наблюдаем сейчас это все еще поступательные). Если шире ставите вопрос - массивный взлет технологический черных лебедей принято называть “технологическая сингулярность”, наиболее известное/яркое изложение предпосылок и элементов у Курцвейла можно почитать.
Не в режиме хайпа, а для понимания предметной основы подобных утверждений обычному человеку можно тех же Бострома и Курцвейла почитать. Чтобы хотя бы иметь возможность в голове разделять действительные предпосылки и вытекающие сценарии развития от чистого хайпа. Вы же по сути страусиную позицию предлагаете, не обращать внимания, вам все равно не понять - вот это как раз прямой путь стать жертвой манипуляций и/или шока от событий если они в итоге свершатся.
Так особенность момента именно, что “создаётся прямо сейчас”. И не в одних нейросетях дело, они часть общего потока роста технологий, хотя на текущий момент пожалуй и самая яркая часть.
Сейчас наиболее остро стоят вопросы относительно разработки новой законодательной базы в отношении использования всего спектра новейших (и прежде всего информационных) технологий. Все это не игрушки и отнюдь не медленное поступательное развитие человеческого социума. Это кардинальное изменение всего социального уклада жизни отдельных стран, сообществ и всего человечества. Недопустимо, чтобы эти темы, затрагивающие вопросы культуры, морали, этики и всего жизненного уклада, узурпировали какие-либо отдельные группы представителей homo sapiens. При чем тут узкие специалисты по разработке и обучению нейросетей мне совсем непонятно: куда ехать автомобилю решает не разработчик его рулевого управления и не автослесарь в автосервисе, а хозяин автомобиля.
