🤡 ChatGPT, AI, ML и другое обесчеловечивание

Оффтопик
701

Съели несколько индюшек и конец цивилизации? )) Нет наверное?

Вы даете свой долгосрочный прогноз, что “спокойный период когда “всё идёт своим чередом” - закончился надолго” и тут же пишете “никакие долгосрочные прогнозы сейчас не будут работать” ))

А я вам о чем талдычу все эти длинные посты? Про сценарии приближения точки радикальных изменений в части ИИ (то что наблюдаем сейчас это все еще поступательные). Если шире ставите вопрос - массивный взлет технологический черных лебедей принято называть “технологическая сингулярность”, наиболее известное/яркое изложение предпосылок и элементов у Курцвейла можно почитать.

Не в режиме хайпа, а для понимания предметной основы подобных утверждений обычному человеку можно тех же Бострома и Курцвейла почитать. Чтобы хотя бы иметь возможность в голове разделять действительные предпосылки и вытекающие сценарии развития от чистого хайпа. Вы же по сути страусиную позицию предлагаете, не обращать внимания, вам все равно не понять - вот это как раз прямой путь стать жертвой манипуляций и/или шока от событий если они в итоге свершатся.

Так особенность момента именно, что “создаётся прямо сейчас”. И не в одних нейросетях дело, они часть общего потока роста технологий, хотя на текущий момент пожалуй и самая яркая часть.

1 лайк
702

Сейчас наиболее остро стоят вопросы относительно разработки новой законодательной базы в отношении использования всего спектра новейших (и прежде всего информационных) технологий. Все это не игрушки и отнюдь не медленное поступательное развитие человеческого социума. Это кардинальное изменение всего социального уклада жизни отдельных стран, сообществ и всего человечества. Недопустимо, чтобы эти темы, затрагивающие вопросы культуры, морали, этики и всего жизненного уклада, узурпировали какие-либо отдельные группы представителей homo sapiens. При чем тут узкие специалисты по разработке и обучению нейросетей мне совсем непонятно: куда ехать автомобилю решает не разработчик его рулевого управления и не автослесарь в автосервисе, а хозяин автомобиля.

703

Эпическая битва представителей Традиции, Модерна и Постмодерна.

3 лайка
704

Берите выше! Чего только стоит тема введения социального рейтинга с использованием искусственного интеллекта. Например, европейское сообщество на уровне своих органов управления и разработки новых законов озаботилось этой темой.

705

Павел, это не прогноз, это наблюдение. Если вы не замечаете, что мир вокруг очень изменился (а я уже предполагал, что вы находитесь на Марсе, где всё стабильно и по прогнозам), то нам нет смысла продолжать дискуссию.
И дело не в приближении сингулярности, а в намного более прозаичных вещах.

Согласен. Я совсем не против Бострома, как вы заметили, я просто предлагаю не принимать всё, что он пишет, за чистую монету. Это всего лишь гипотезы (или фантазии, смотря с какой стороны зайти).

706

Этот рейтинг действительно где-то вводят, или это опять на уровне вбросов?

Насколько я знаю, оно озаботилось тем, как не допускать подобных вещй.

707

Как работает система социального рейтинга в Китае

Государство, местные органы власти или компании оценивают социальное поведение человека от 0 до 1000 или от A до D. Рейтинг складывается из информации, полученной из официальных источников — налоговой, правоохранительных органов, правительственных структур, загсов, образовательных учреждений, компаний. А также из данных цифровых источников: истории поиска, онлайн-покупок и активности в соцсетях. Кроме того, информацию получают через камеры видеонаблюдения и систему распознавания лиц. Уповать на отсутствие камер или навигатор, который заботливо подскажет, где машину поджидает камера, бессмысленно. По оценкам CBS News, в Китае около 400 млн таких камер.

Важно отметить, что рейтинг рассчитывается вручную официальными лицами и организациями. В будущем планируется, что эту работу будет выполнять искусственный интеллект. Более того, не во всех провинциях существует такая высокотехнологичная система сбора данных. Если в Ханчжоу, столице провинции Чжэцзян, жители использует идентификационные карты, то в деревнях система работает по старинке: с помощью ручек и бумаги. По деревне ходят люди, которые наблюдают за жизнью местных и фиксируют их заслуги и проступки.

Социальный рейтинг в России

Социальный скоринг — это система оценки общественного статуса и потенциала конкретного человека. Для разработки такой системы в России ученые из РГСУ создали платформу «Мы» с вероятностными и статистическими моделями оценивания. Разработка этого проекта началась в 2022 году. Социальный скоринг, пишут авторы проекта, поможет оптимально распределять ресурсы в социальной сфере. По словам проректора РГСУ по научной деятельности Василия Уроженко, скоринг поможет сделать механизмы соцподдержки оперативными и объективными.

На Камчатке в экспериментальном варианте уже запустили систему социального рейтинга, пока в режиме поощрений (“пряника”):

Пока как игру. Без наказания тех, у кого низкий рейтинг и добровольно. Пока речь идет только о бонусах за высокий соцрейтинг: бесплатные билеты в кино, лишние минуты к тарифу сотового телефона и тому подобных «плюшках». У новинки много партнеров — от Правительства Камчатского края до сотовых операторов, кинотеатров и мелких бизнесменов.

С подробностями каждый желающий может ознакомиться сам, сделав соответствующие запросы в поисковых системах.

Совсем не случайно в Европе озаботились:

В Законе об ИИ, который центральные европейские органы разрабатывали два года и в который недавно внесли новые правки в связи с появлением феномена ChatGPT-4, системы искусственного интеллекта разделены на четыре группы: группа “неприемлемого риска”, группа “высокого риска”, “генерирующие” системы и группа “ограниченного риска”.

В группу “неприемлемого риска” зачислены:

  • системы, созданные для воздействия на подсознание людей
  • системы социального рейтинга, разделяющего людей на категории по их поведению, социально-экономическому положению и прочим личным характеристикам
  • системы распознавания в режиме реального времени.

Если озаботились, значит риски действительно существуют.

Но и без их озабоченности любому здравомыслящему и неангажированному человеку и так все понятно. Достаточно заплатить несколько раз штраф на основании автоматизированных заключений компьютерной системы, синхронизированной с многочисленными камерами наблюдения на автодорогах.

708

Реальность:

Вброс:

Кем планируется, как планируется, когда планируется, что подразумевается под искусственным интелллектом?

По нынешним временам даже линейная модель - крутой AI. Что подтверждает сам автор сообщения с математическим(!) образованием, выделивший болдом:

С каких пор статистические модели стали искусственным интеллектом?

Кстати когда такие штрафы появились, качество вождения заметно выросло.

709

Артур @asuilin, будучи анонимным участником данного форума, вы предлагаете доверять вашим лозунгам больше, чем многочисленным источникам информации с известными именами, известной репутацией и разумными доводами. При этом, если я дал ссылку на определенной источник информации, это не означает, что он единственный. Мне не известны мотивы вашей позиции - возможно, вы искренне не снимаете “розовые очки”… но далее парировать отвлекающие маневры перевода фокуса внимания на частности, требующие документального а-ля судебно-юридического доказательства, мне стало совсем не интересно. Поэтому больше заниматься этим не буду… но не потому, что считаю ваши доводы обоснованными, а ваше мнение неоспоримым - просто не интересно! Оставайтесь в рамках своего субъективного-частного мнения узкого специалиста, коим вы себя гордо презентуете, строго придерживайтесь узкоспециализированной корпоративной этики.

Как метко в другой ветке написал уважаемый и совсем не анонимный человек:

1 лайк
710

Это вы про статью в РБК, серьёзно?

Алекс, я вас огорчу - я не анонимный участник, а модератор, и превратить этот столик в помойку я не дам. Поэтому информация, которая сюда поступает (особенно за вашим авторством), будет требовать фактчекинга (хотя и не люблю я это слово)

711

В сегодняшнем мире, ЛЮБОЙ источник информации преследует какую-то цель. И только свои нажитые знания и опыт могут помочь определить достоверность этой информации.

2 лайка
712

Пойду вам навстречу и не заставлю вас себя утруждать - вы сделали все возможное, чтобы мой интерес к данной ветке обнулился. :+1: :man_shrugging:

713

Это Вы зря, хороший непримиримый оппонент это отличный способ разобраться в вопросе, в первую очередь для себя. Иногда бывает, что своя точка зрения сильно корректируется.

714

Не спорю… но когда оппонент, а не “мальчик для битья”.

Спасибо за поддержку, но когда противоположная сторона в качестве главного и фактически единственного своего аргумента выдвигает свой непререкаемый авторитет самоназначенного эксперта, все доступные источники информации, если информация, в них изложенная, не совпадает с его концепцией, по смыслу объявляет чушью и фейком (дословно, в частности, “вбросом”) и кичится своей властью модератора… лучше помолчу.

Мне дороже Бар со своими: концепцией, содержанием, посетителями и атмосферой, нежели желание при любых условиях непременно отстаивать свое мнение! :thinking:

715

Почитать конечно можно, но для более полной картины понимания того, о чем они пишут хорошо бы иметь представление об исторических периодах развития человеческой цивилизации, о Традиции, Модерне, Постмодерне.
Нужен ли нам трансгуманизм, проповедуемый этими авторами?

716

Человеку нужен человек и музыкальная пауза

3 лайка
717

Многие вещи нам непонятны не потому, что наши понятия слабы, а потому, что сии вещи не входят в круг наших понятий (Козьма Прутков).

718

Про то, что я замечаю изменений мира и одновременно нахожусь на Марсе - вот вообще не понял о чем это ))
Все обсуждение выше о том стоит ли пытаться узнать о возможном характере изменений, ознакомиться с прогнозами их развития. К текущему темпу развития все более-менее привыкли. Но с ненулевой вероятностью нас ждет смена и текущего нехилого темпа на еще более резкий взлет.

Вообще-то вы выше писали о бессмысленности подобного. И абзацем выше в ответ на приводимые мною все более радикальные примеры прогнозов про изменения предположили, что я не вижу изменений. Непросто вас понять…

719

Что-то сомневаюсь, что наступающее развитие технологий (о которых речь) кого-то станет спрашивать, нужно оно или нет. Просто наступит. Как в промышленные революции до этой. И с учетом опыта предыдущих подобных мероприятий у всех сколько-нибудь способных участников нет желания отставать, уж очень горькой была участь отстающих. Не договориться об остановке. Разве что очень яркий предупредительный инцидент случится.

Так что эстетам - в метамодерне трансгуманизма осциллировать. Такая моя командирская постмодернистская зарука )

2 лайка
720

AI хоть и существует в виртуальном мире, но он связан с миром реальным. А изменения в реальном мире большие, и развитие AI (по крайней мере скорость этого развития) они тоже так или иначе затронут. Примерно это я имел в виду.
По поводу взлета, который вот-вот случится, я бы не был так оптимистичен. То, что получилось сейчас с GPT - получилось по большому счету случайно. Будет ли дальше так же везти, непонятно. Если просто “ещё больше обучать GPT”, довольно быстро упрёмся в доступные вычислительные мощности, они закончатся.