![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
По наводке Александра Розова узнал прекрасное. А именно: оказывается множество IT-специалистов - включая такие фигуры, как Илон Маск и Стив Возник - а так же представителей науки и образования написали письмо с просьбой остановить на время развитие пресловутого AI. (Как там сказано: сделать паузу на 6 месяцев.) Для того, чтобы - как это декларируется в большинстве источников - оценить все угрозы, которые данное направление может принести в наш мир.
Тут сразу же вспоминаешь то ли "Матрицу", то ли вообще "Скайнет" из "Терминатора". (В смысле: вот chatGPT разовьется во ЧТО-ТО, и пойдет убивать всех человеков.) Но на самом деле, конечно, все много проще: все эти деятели - ученые, инженеры, бизнесмены - имеют в виду совершенно иную опасность. О которой прекрасно сказано в письме - разумеется, несколько завуалировано и "замаскировано" той же "заботой" о "потенциально сокращаемых работниках" и т.п. элементами массовой культуры. Но это не суть важно: когда это люди, начинавшие часто, как пресловутые "стартаперы", заботились о народных массах. Нет, в реальности испугало их иное.
Вот это: "...мы должны спросить себя: должны ли мы позволять машинам наводнять наши информационные каналы пропагандой и неправдой?". Именно ради этой опасности и предлагается "приостановить развитие", а в это самое время разработать "...системы верификации и водяных знаков, помогающие отличить настоящий контент от сгенерированного и отслеживать утечки моделей; надёжную экосистему аудита и сертификации..." ну и т.п. А уж после того, как подобные системы будут созданы, указанного "кракена" можно будет снова выпустить на волю.
Проще говоря: современные представители техническо-научной элиты испугались того, что потеряют "информационную адекватность" по отношению к текущему миру. Именно "представители элиты", поскольку народные массы находятся в "информационно неадекватном состоянии" давно. (Как минимум, лет тридцать, хотя там еще Марк Твен о чем-то подобном писал...) Но это как раз казалось неопасным - и даже удобным для элитариев. Ну да: пока народ "ковыряется" в огромной куче "информационного дерьма", тщательно набрасываемого ему разнообразными СМИ - пытаясь найти редкие зерна правды - то его можно считать полностью управляемым и совершенно неспособным к катастрофическим для элиты действиям. (На самом деле, кстати - совершенно напрасно. Но об этом будет чуть ниже.)
А вот сами "вершители судеб" должны были, наоборот, получать чистую правду. Ну, разумеется, с учетом того, где они "вершат". Например, для "специалистов по IT" эта "зона правды" должна существовать в области computer science, финансисты должны иметь минимум вранья в области биржевых котировок (как!!!!), медицинские чиновники должны не обманываться в плане эффективности лекарств, ну и т.д., и т.п. (Проще сказать: в той области, где элитарий управляет, он должен знать правду.) Ну, а "вершина элиты" - вроде президентов и министров - должна, вообще, "не пересекаться" с ложью.
Понятно, что создать подобную систему нелегко, в особенности при учете того, что - как сказано выше - народ-то "кормят" исключительно информационным дерьмом. Поэтому современный западный мир создал многоуровневую и крайне дорогостоящую "систему контроля и сертификации информации": всех этих "экспертов", разнообразные "лицензируемые" рейтинговые агентства, огромное количество "проверок и перепроверок", помощников и рецензентов - ну и т.д., и т.п. Разумеется, эффективность этой системы не слишком высока, однако определенный "градиент" соотношения "правда/ложь" по отношению к "общенародному состоянию" она, все же, создает.
Точнее, создавала до недавнего времени. До того момента, как была запущена "массовая интернетизация" - она же пресловутый не к ночи помянутый Web 2.0 - который, по существу, открыл "эпоху постправды". Дело в том, что идея о возможности "массовой генерации информационных сообщений" - то есть, о мире, в котором информацию "создают" не только ограниченное количество СМИ, но множество "независимых блогеров" - должна была привести к увеличению "мощности информационных потоков" в миллионы раз. И привело.
В подобной ситуации надеяться на то, что разнообразные "эксперты" сумеют разобраться в том, что верно, а что - ошибочно - оказалось невозможным. ( Read more... )
Тут сразу же вспоминаешь то ли "Матрицу", то ли вообще "Скайнет" из "Терминатора". (В смысле: вот chatGPT разовьется во ЧТО-ТО, и пойдет убивать всех человеков.) Но на самом деле, конечно, все много проще: все эти деятели - ученые, инженеры, бизнесмены - имеют в виду совершенно иную опасность. О которой прекрасно сказано в письме - разумеется, несколько завуалировано и "замаскировано" той же "заботой" о "потенциально сокращаемых работниках" и т.п. элементами массовой культуры. Но это не суть важно: когда это люди, начинавшие часто, как пресловутые "стартаперы", заботились о народных массах. Нет, в реальности испугало их иное.
Вот это: "...мы должны спросить себя: должны ли мы позволять машинам наводнять наши информационные каналы пропагандой и неправдой?". Именно ради этой опасности и предлагается "приостановить развитие", а в это самое время разработать "...системы верификации и водяных знаков, помогающие отличить настоящий контент от сгенерированного и отслеживать утечки моделей; надёжную экосистему аудита и сертификации..." ну и т.п. А уж после того, как подобные системы будут созданы, указанного "кракена" можно будет снова выпустить на волю.
Проще говоря: современные представители техническо-научной элиты испугались того, что потеряют "информационную адекватность" по отношению к текущему миру. Именно "представители элиты", поскольку народные массы находятся в "информационно неадекватном состоянии" давно. (Как минимум, лет тридцать, хотя там еще Марк Твен о чем-то подобном писал...) Но это как раз казалось неопасным - и даже удобным для элитариев. Ну да: пока народ "ковыряется" в огромной куче "информационного дерьма", тщательно набрасываемого ему разнообразными СМИ - пытаясь найти редкие зерна правды - то его можно считать полностью управляемым и совершенно неспособным к катастрофическим для элиты действиям. (На самом деле, кстати - совершенно напрасно. Но об этом будет чуть ниже.)
А вот сами "вершители судеб" должны были, наоборот, получать чистую правду. Ну, разумеется, с учетом того, где они "вершат". Например, для "специалистов по IT" эта "зона правды" должна существовать в области computer science, финансисты должны иметь минимум вранья в области биржевых котировок (как!!!!), медицинские чиновники должны не обманываться в плане эффективности лекарств, ну и т.д., и т.п. (Проще сказать: в той области, где элитарий управляет, он должен знать правду.) Ну, а "вершина элиты" - вроде президентов и министров - должна, вообще, "не пересекаться" с ложью.
Понятно, что создать подобную систему нелегко, в особенности при учете того, что - как сказано выше - народ-то "кормят" исключительно информационным дерьмом. Поэтому современный западный мир создал многоуровневую и крайне дорогостоящую "систему контроля и сертификации информации": всех этих "экспертов", разнообразные "лицензируемые" рейтинговые агентства, огромное количество "проверок и перепроверок", помощников и рецензентов - ну и т.д., и т.п. Разумеется, эффективность этой системы не слишком высока, однако определенный "градиент" соотношения "правда/ложь" по отношению к "общенародному состоянию" она, все же, создает.
Точнее, создавала до недавнего времени. До того момента, как была запущена "массовая интернетизация" - она же пресловутый не к ночи помянутый Web 2.0 - который, по существу, открыл "эпоху постправды". Дело в том, что идея о возможности "массовой генерации информационных сообщений" - то есть, о мире, в котором информацию "создают" не только ограниченное количество СМИ, но множество "независимых блогеров" - должна была привести к увеличению "мощности информационных потоков" в миллионы раз. И привело.
В подобной ситуации надеяться на то, что разнообразные "эксперты" сумеют разобраться в том, что верно, а что - ошибочно - оказалось невозможным. ( Read more... )
