Ну я выше это делал, но могу повториться, собственно, если все сильно опримитивить, то происходит разметка текста «векторами», которые дают результирующую, что дает возможность сформировать «нейронные связи». Запрос же так же преобразовывается и на основании связей генерится ответ. Это идеально для работы с документацией. Но само «оно» ничего не придумает, нет активной функции.
Совершенно согласен относительно целесообразности продолжения дискуссии в этом ключе, и желания такого нет!!!
Но один раз, на мой взгляд, можно высказаться относительно все более внедряемого в нашу жизнь неоправданного превалирования экспертного мнения узких специалистов над более обоснованным и реалистичным мнением специалистов более широкого и более фундаментального профиля. Конструктор крыла самолета может отвечать за конструкцию крыла, но за весь самолет способен отвечать лишь его генеральный конструктор.
Всецело разделяю мнение:
Специалист – человек, который знает все о немногом и ничего обо всем остальном.
Амброз Бирс
Наболело!
Честно говоря, несмотря на то, что данная тема долгое время мне была интересна, все более вижу ее античеловеческий характер - не потому, что тема плоха, а потому, как ее могут использовать в корыстных целях, по незнанию или неосторожности… или из-за элементарного исследовательского азарта, желания профессионально утвердиться, получения выгодного заказа или простого человеческого любопытства узких специалистов.
Вы пару постов назад писали противоположное " Читали ли эти книги власти - думаю что тоже нет, поскольку у них есть прямой контакт с инженерами, занимающимися нейросетями".
Полагаю до властей доносят лица приближенные к телу ту повестку, что пробилась через многочисленные фильтры. И если источник соответствующего уровня - тем больше шансов. Например такое
Elon Musk
twitter.com
3 авг. 2014 г. — Worth reading Superintelligence by Bostrom. We need to be super careful with AI. Potentially more dangerous than nukes.
Вечером понедельника навеяло
Если что, напоминает описание обычного дня для 80% человеков (оптимистично). Нет? )
Ну а если взять такую цепочку “что вижу о том пою”
1 распознает образы с движущейся камеры, преобразует в текст
2 формирует промпты
3 генерирует по промптам текст
Уже такой кадавр креативнее и интереснее 90% кожаных мешков.
Если еще пару контуров добросить, думаю можно процент до 95-99% поднять ))
Это я к чему. Мы сами себя случаем не переоцениваем ли?
Ох…
В реальности это работает так: Текст бьётся на токены специальным токенизатором (у каждой нейросети он свой). Смысл в том, чтобы разбить текст на кусочки, удобоваримые для нейросети. Раньше было модно брать за токены отдельне слова (Word2Vec и иже с ними), потом от этого отказались в пользу более мелких токенов, которыми удобнее представлять произвольный текст. Сейчас токен это обычно одна или несколько букв.
Далее, в соответствие каждому токену ставится вектор в N-мерном пространстве. Эти вектора раньше формировались отдельно (тот же Word2Vec), сейчас они формируются в процессе обучения нейросети, что намного удобнее.
Потом этот вектор умножается на много-много разных матриц, составляющих “тело” нейросети и между умножениями пропускается через нелинейные функции - это и есть тот самый “Солярис”. Какие числа находятся внутри этих матриц, посмотреть можно, ни никакого смысла в этом нет, поскольку никаких выводов из этого сделать всё равно невозможно - аналогично, наблюдая за Солярисом извне, и даже беря из него пробы, невозможно понять, что там там происходит внутри. Числа в матрицах образуются в процессе обучения нейросети, люди туда руками ничего не прописывают.
Потом, пока этот вектор доезжает до выхода, он в простейшем случае складывается, в более сложных случаях сочетается более хитрыми способами с векторами других токенов, и на выходе образуется результирующий вектор, который уже используется в зависимости от задач нейросети. В GPT например он переводится обратно в токены и нейросеть формирует на выходе текст.
Никаких специальных “алгоритмов”, кроме известных не одну сотню лет матричных умножений, тут по сути нет, а вся творческая задача авторов заключается в формировании архитектуры нейросети - сколько в ней должно быть тех самых матриц, в каком порядке через них должна проходить информация, и как организовать связи между ними.
2 лайка
Не совсем понимаю, как распознование образов относится к ИИ? И кто цепочку выстраивает?
Коллега, а чем это отличается от написанного мной? Мы же на акдио форуме и дискуссия была не про технологии, а то что и распознование обьектов, да и просто 3д графика это «умножение матриц» и так всем причастным понятно.
Я это тоже писал выше - факт, мы не можем понять чему обученна нейронка.
Тогда уж давайте скажем, что компьютер мигает лампочкой, шумит вентилятором и выдаёт ответ, вот так нейросеть и работает )
1 лайк
Распознавание образов - одна из прикладных областей, в которых применяется ИИ в т.ч. на основе нейросетей. ИИ не обязательно только нейросети и не обязательно только обработка текста.
Цепочку можно выстроить хотя бы и последовательностью строк кода, вызывающих разные модели. (Человек же тоже часто размышляет на уровне - сделай раз, два, три)
Ну нет, я здесь уже именно про алгоритмы) не утрируйте, в них именно операции с матрицами
Маск - капиталист, и он несколько раз переобувался в воздухе, в зависимости от того, есть у него в портфеле акции AI-компании, или нет. Если нет, то AI это прям страшное зло и его надо запретить-зарегулировать, а если есть - то это добро и прогресс.
И надо отметить, в 2014 году книга Бострома действительно представляла интерес, поскольку про AI тогда вообще мало говорили в таком глобальном ключе, Бостром был одним из первых, кто вообще поднял эту дискуссию, и всеми теми фантазиями, которые он там описал, разогрел публику и заставил её думать про “эпоху AI” - это правда.
Павел, вы уже придираетесь к словам - контакт в крупных иерарических структурах никогда не бывает буквально прямым, это просто технически невозможно. Под прямым подразумевается контакт по иерархии черех прямых руководителей. Да, информация по дороге может исказиться, но если есть сомнения, всегда можно переспросить и уточнить.
1 лайк
Если честно, это не похоже на операции с матрицами, но возможно я не понял ваш творческий замысел. Ну и я хотел показать, в каком месте возник “Солярис”.
2 лайка
Маск интереснейший субъект в контексте разговора - он и потребитель ИИ высочайшего уровня в своих компаниях и инфлюэнсер по теме ИИ для других лидеров поднебесных.
И для 2023 года книжка не то чтобы устарела, скорее наоборот - мы судя по всему подходим к точке когда начнет сбываться те или иная линия прогноза. Это как на многомерных интеллектуальных американских горках катиться. И не просто катиться, а видеть перед собой возможные траектории и прослеживать куда уходит реальный путь. Разве это не прибавляет еще один слой в жизнь со своими красками особенными? Особенный прикол в том, что это именно не фантастика, а приход новой реальности.
И где как не на аудиофоруме в таком ключе об этом поговорить? )) Для меня аудиохобби тоже во многом про это - разные слои реальности, которые сходятся в одной точке при прослушивании музыки.
Обычно всё идёт не по плану и не так как описано в прогнозах. Выше уже приводил пример с советской фантастикой, в AI тоже время от времени наступает AI winter - прогресс застопоривается, инвестиции утекают, всё пропало, шеф. Совершенно не факт, что до супер-интеллекта нас не отделяет ещё один AI winter или даже несколько.
1 лайк
1 лайк
То что жизнь идет не по плану - это нормально, если речь идет о средне- и долгосрочных планах (которые как правило регулярно актуализируются). Их назначение не в инструкции буквальных действий в моменте, а в определении стратегического движения. Фантастика - это не план и не прогноз, это литература, в лучшем случае как моделирование “что если” можно воспринимать.
Можно жить конечно с горизонтом планирования на ближайший день, но при таком подходе снижается вероятность скоординированной реализации хоть сколько-то масштабных задач. А чем более перспективные планы - да, тем больше неопределенностей и вероятностных факторов.
Лучше конечно так, чем никак, но содержание похоже не слишком соответствует заголовку
The agreement is non-binding and carries mostly general recommendations such as monitoring AI systems for abuse, protecting data from tampering and vetting software suppliers.
2 лайка
Предлагаю не поминать всуе горизонт планирования, он сейчас у всех не то чтобы сильно длинный, ну а у некоторых наций в особенности. Умерла - так умерла.
“Люди встречаются, люди влюбляются…”, а на самом деле общаются не они, а с обеих сторон нейросеть - сама с собой! 
:
Все это поднимает один из многих вопросов этики применения искусственного интеллекта, например, можно ли считать переписку с помощью ИИ ложью, и как бы чувствовал себя пользователь, если бы узнал, что с ним общается не живой человек, а машина — особенно, если бы при этом сам просил подсказок у ИИ.