🤡 ChatGPT, AI, ML и другое обесчеловечивание

Оффтопик
761

Как мне удалось понять, суть статьи в том, что в соответствии с умонастроениями определенной группы лиц, названных автором “техножрецами-пророками” (doomsayer technopriests), имеют место желание и амбиции повсеместно использовать Generative AI в качестве инструмента по обработке больших массивов накопленной человечеством информации, которым можно будет воспользоваться подобно тому, как художник пользуется кистью и своим умом (умом - для реализации понятного ему смысла в режиме обратной связи):

We’re discerning where there is meaning—or something close to it. We’re adjusting the framework by offering new prompts. And we discern from the things created which are worth keeping.

Мы определяем, где есть смысл – или что-то близкое к нему. Мы корректируем структуру, предлагая новые подсказки. И мы различаем в созданных вещах то, что стоит сохранить.

Вполне здравый и рациональный подход.

762

Это не намерения могущественных технопророков, это описание работы с Midjourney - примитивного по сути инструмента, который освоил сейчас уже каждый школьник. Взрослым же дядькам любят толкать работу с Midjourney, как торжественное прикосновение к сверхразуму - можно конечно и так интерпретировать, если хочется впечатлить.

1 лайк
763

Так захотелось автору статьи: видимо, в этом состоял его художественно-романтический прием, его авторский подход к мифологизации темы генеративного ИИ. :slightly_smiling_face:

Начальный вариант текста моего поста начинался: “Как часто бывает в англоязычных текстах, много слов и мало смысла, но с избытком позитивного оптимизма”. Постеснялся подобной резкости своего мнения, поэтому от его озвучивания отказался. Рад, что при неожиданной поддержке собеседника представился случай реанимировать более реалистичный и осмысленный подход! :wink:

Критическое мышление всегда ценнее, но не всегда и не все готовы его слышать и принимать - особенно в контексте популяризируемых, но не глубоко понятых трендов, когда с большей готовностью принимаются фрагментарно верные, но упрощенные версии. :man_shrugging:

764

Точнее и не скажешь. Я бы добавил ещё, что тренд на упрощение будет только усугубляться, т.к. просто “нет времени объяснять” в текущем темпе жизни :grinning:

К чему это приведёт только, вот в чём вопрос… Хотя, уже привело. Молодёжь просто не хочет ничего слушать. Надо “кратко пересказать” ))

1 лайк
765

К сожалению.

К разрушению социального гомеостаза.

Судя по наблюдаемым тенденциям, ставка делается на замещение критического, системного и глубокого человеческого мышления разнообразными костылями в виде глобальных следящих и сопровождающих систем и подсистем искусственного интеллекта. Мне представляется, если это состоится в тотальном масштабе, то реализуются катастрофические, разрушительные последствия для всех участников - не только снизу, но и сверху.

1 лайк
766

Есть неплохая беседа двух современных философов на эту тему.
Гуглится по фразе:
“Коллапс сложности: как подобрать слова в мире, стремящемся к упрощению”

767

Правильнее даже говорить не о самом упрощении, как таковом, а об упрощении, приводящем к примитивизации, к потере глубины и утрате сути и смысла, а значит ведущем к деградации и вырождению.

Проявление любой активности необходимо поддерживать и тренировать: пролежав много месяцев в постели - утратишь способность ходить, перепоручив решение интеллектуальных задач ИИ - утратишь способность глубоко анализировать и думать, а значит и принимать адекватные решения, то есть рационально и осмысленно управлять своей жизнью и деятельностью.

2 лайка
768

Щелин, смотрю, неплохо заходит в массы - наконец то появился человек, который пытается объяснить вещи, действительно интересные думающим людям, а не сыплет пропагандой/повесткой.

1 лайк
769

Следуя такой логике, и калькуляторы надо запретить, чтобы интеллектуальная мышца не расслабилась )
На самом деле ИИ будет делегироваться “второсортная” низкоинтеллектуальная работа, так же как сейчас никто в здравом уме не складывает столбиком - зачем, если есть калькулятор? А люди освободятся для решения более интересных задач, как раз “глубоко анализировать и думать” - ИИ этого не умеет от слова совсем.

У ИИ нет ничего даже близкого к критическому, системному и глубокому мышлению. Поэтому если человек этого и так не умел, а только делал вид, что мыслит - да, его шаблонное мышление может заменить ИИ. А если умел - то никакой ИИ ему не конкурент.

3 лайка
770

Забавный пример практического применения ИИ. Написание текстов для поисковой оптимизации сайтов это нудная и дурацкая работа. Конечно, можно поручить её ИИ. Вот что получается:

Напихайте в панамку и выделитесь из толпы стильно и оригинально!

:laughing:

1 лайк
771

Артур, в очередной раз мы с вами говорим на разных языках: вы акцент делается на абстрактном ИИ и философии, я акцент делаю на реальной текущей и планируемой практике использования ИИ, причем не в контексте отдельного, благодаря мудрым родителям, интеллектуально развитого индивидуума, а в контексте всего социума.

ИИ еще только начинает врастать в социальную среду, а далекие от ИИ, но столь же виртуальные TikTok, компьютерные игры и социальные сети уже вовсю оказывают свое негативное воздействие на интеллектуальное и психологическое развитие и состояние не всех, но очень многих детей (мнение не мое, а профессиональных педагогов и психологов). Достаточно упомянуть хотя бы о клиповости мышления.

Бытует установка, что незачем разбираться в географии, истории, физике и далее по списку, незачем развивать математическое и системное мышление, когда все необходимое всегда можно посмотреть в интернете. Дается установка, что для счастливой и успешной жизни достаточно освоить некий необходимый технологически-прикладной минимум какой-нибудь востребованной сегодня практической деятельности для выполнения определенных функций, дающих заработок. Садясь за руль автомобиля, даже карту родного города нет необходимости держать в голове, когда есть удобный и безотказный навигатор.

Артур, еще раз повторю, у нас с вами перпендикулярно разный подход по отношению к возможным рискам, связанным с внедрением ИИ в реальную жизнь социума. Поэтому спор не только бесполезен, но и вреден. Невозможно договориться о чем-то предметном, пребывая в разных концептуальных парадигмах: тема обесчеловечивания (в контексте не вообще абстрактного ИИ, а характера использования заказчиками вполне конкретных цифро-интеллектуальных систем и целых сетей), обозначенная в данной теме, судя по вашей позиции и высказываниям, вам чужда.

В самом ИИ ничего негативного нет, просто мощный инструмент для решения многих задач. И с его помощью при разумном использовании человечеству дается шанс совершить существенный прогресс. Риски заложены в человеческих страстях (прежде всего, жадности и жажде власти) и искушении использовать возможности ИИ сугубо в своих интересах. Существует мирный атом, но существует и атомное оружие. С ИИ дело обстоит так же, только последствия ошибочного (или приступного) использования ИИ могут быть еще более стремные.

772

Совершенно верная установка.
Надо учить именно искать информацию (и отличать истинную информацию от фейковой), а не зазубривать учебники.
Дело в том, что развитие идёт слишком быстро, и полученная профессия быстро теряет актуальность. А учебники нацелены именно на получение профессионального знания на всю жизнь. Раньше это прекрасно работало - хорошо выучился и всю жизнь этим занимаешься и прилично зарабатываешь. Сейчас - не работает.

Да, а остальное добирать по ходу дела, потому что в быстро меняющемся мире невозможно предсказать, чем ты будешь заниматься через несколько лет. Какой смысл заучивать то, что тебе никогда не пригодится?
Даже на примере моей собственной жизни:

  • когда я учился в средней школе, родители готовили меня к поступлению в музыкальное училище
  • в старших классах я учился в медицинском колледже и готовился к поступлению в медвуз
  • потом поступил не в региональный медвуз, а в химический институт в Москве
  • и в итоге всю взрослую жизнь проработал в IT, как самоучка :slightly_smiling_face:

Итог - 90% того, что я учил, мне вообще никогда не пригодилось.

+100, с навигатором намного удобнее. Зачем заучивать карту, чтобы что?

Алекс, не в обиду будет сказано, разница между нами в том, что я работаю с ИИ каждый день, а вы знаете о нём и его возможностях только из газетных статей. Поэтому в каком-то отношении да, спор не имеет большого смысла.

1 лайк
773

Фраза “я работаю с ИИ каждый день” свидетельствует о критической ангажированности и защите своих профессиональных инвестиций. Академик Сахаров тоже годы спустя изменил свое отношение к термоядерной бомбе, в разработке которой он непосредственно участвовал.

Утверждение “вы знаете о нём и его возможностях только из газетных статей” не соответствует истине (вы не можете об этом судить).

Кроме того, мои утверждения большее отношение имеют к социальной психологии, нежели непосредственно к ИИ (о чем вполне ясно высказался в предыдущем посте). К самому ИИ никакого негатива не испытываю.

Но и остальные ваши тезисы социологической тематики ясно демонстрируют, что наши концептуальные парадигмы диаметральны относительно друг друга.

Буду молча и с интересом следить за развитием вашей мысли, столь популярной ныне в определенных социальных и околонаучных средах.

Рад, что влиятельные финансовые игроки уровня Илона Маска публично начинают высказывать свои опасения относительно не до конца просчитанных рисков использования ИИ. Надеюсь, здравый смысл победит по-человечески понятные любопытство и игровой азарт.

774

Но согласитесь, если бы художник или музыкант начал указывать Сахарову на опасность термоядерной бомбы прямо в момент её разработки, это было бы несколько странно. Чтобы указывать на опасность чего-то в некой предметной области, надо иметь некоторую компетенцию в этой области, логично?

775

Однажды известный доктор медицинских наук в частной беседе со мной произнес замечательную фразу: медицину и биологию вы сможете освоить в любом возрасте, а вот математикой необходимо заниматься в молодости, последовательно, несколько лет и единым блоком. Потом будет не освоить. Речь шла не о получении формальных математических знаний, а об освоении фундаментальных принципов системного мышления, об освоении своеобразной матрицы мышления, позволяющей в любое время быстро и эффективно во всем разбираться и восполнять недостающие знания.

Конкретно, просто художники и музыканты (и даже большинство физиков) на эту роль не подходят. :slightly_smiling_face:

776

Это даёт любая точная наука. Вы занимались математикой, поэтому она вам ближе. Я с детства занимался химией, и до сих пор её очень люблю.

Но строго говоря, нет никаких доказательств того, что те кто в молодости занимались математикой или другой точной наукой, потом более успешны, чем те, кто не занимались (если отбросить корреляции с тем, что провёл молодость в университетской среде и приобрёл профессиональные связи в highteсh сфере).

777

Судя по вашему подходу, вы во главу угла в качестве успешности ставите личное финансовое и профессиональное благополучие. С этих же позиций вы оцениваете ценность ИИ. Человек же, обладающий определенным системным мышлением и широтой видения, бывает, готов добровольно отказаться от своего узкого личного интереса в интересах более высоких целеполаганий.

Александр Македонский завоевал “пол мира”, неся со своим войском цивилизованность и прогресс на Восток (он так думал). Дойдя до Индии, он встретился с настоящими духовными Учителями, которые ему объяснили, что он следовал своим ложным иллюзиям, после чего, отказавшись от завоевания Индии, он закончил свой военный поход и к неудовольствию некоторых своих полководцев тихо и мирно вернулся на родину. Это к вопросу о ценности системного мышления и глубоких мировоззренческих познаний, которые либо есть, либо их нет, и которым нет необходимости переучиваться, потому что они фундаментальные, а не прикладные.

Для того, чтобы мудро использовать свои военные навыки, не достаточно быть просто военным, необходимо обладать более широким стратегическим и скорее политическим мышлением. С ИИ дела обстоят аналогично: просто айтишники с семью пядями во лбу могут талантливо разработать, но не компетентны глобально оценить и адекватно использовать свои поделки (помимо изучения теории языков программирования несколько лет работал в среде сильных программистов и сам писал, в том числе, и на системном уровне, поэтому темой владею).

778

Алекс, вы как математик должны понимать, что для того, чтобы оценить полезность чего либо, нужна некая метрика, чтобы это измерить. Нет измерений - нет объективной оценки. Есть только субьективные суждения, являющиеся уделом гуманитариев. Вы же не из таких?

779

Подходы к этой теме можно обнаружить, например, здесь: Можно ли измерить качество звука? ОБНОВЛЕНО: все очень сложно.

Математики же преимущественно думают не измерениями, а образами и моделями.

Честно говоря, нужно очень пофантазировать, чтобы научиться измерять, например, человечность или степень человеческой свободы. А, собственно, именно о них в контексте использования ИИ, как мне казалось, мы и говорим.

780

Там речь про другое - что используются метрики-заместители, не имеющие отношения к целевой функции (удовольствие от прослушивания).

В целом не вижу смысла продолжать дискуссию, т.к. её вектор понятен - вы хотите донести мысль, что математическое образование наделяет вас некими сверхспособностями, дающими вам право выносить суждения в областях, в которых вы некомпетентны, включая ИИ.

Никаких объективных доказательств этого вы представить естественно не можете, поэтому предлагаю закруглиться и оставить в покое Духовных Учителей, Человечность и Свободу.

1 лайк