Виктор Мараховский - Минутка до чего дошёл прогресс. СМИ сообщают о перспективном новом продукте ИИ-индустрии - "домашнем агенте "Эйнштейн" для ленивых учеников". Суть в том, что данный ИИ-агент замещает школьника в качестве исполнителя вообще всей удалёнки. Он не только пишет за него домашние задания, но также любознательно читает учебные материалы на школьном сервере от его имени, участвует под его видом в онлайн-обсуждениях и вообще создаёт полный эффект присутствия, пока маленький ленивец может делать что хочет. Цитата по NYP: *"Создатель компаньона Адваит Паливал в заявлении для Futurism выступил в защиту технологии, утверждая, что возмущение «неуместно», поскольку этот инструмент неизбежен. «Системе образования придется адаптироваться к ИИ так же, как она адаптировалась к калькуляторам, интернету и Google», — заявил он."* Пользуясь случаем замечу, что индусы в США являются самой богатой этноконфессиональной группой - в 2024 году они обошли даже евреев. Ибо работают они либо врачами, либо айтишниками, либо финансистами - и притом (они люди, прошедшие огромный отсев) работают на убой и добиваются результатов, не жалея себя. Я давно разрабатываю теорию "эпохи нищепанка", которая помимо прочего предусматривает довольно драматический распад передовых обществ по типу "ЮАР на максималках" (это когда меньшинство за высокими заборами разрабатывает космические аппараты, накапливает миллиарды и играет в поло, а большинство снаружи пырится в девайсы, ест питательный соевый суп и с трудом читает). Но эта теория явно должна быть обогащена этнокультурной компонентой: представим себе условную Америку-2050, в которой Адвиаты, Паджиты и их Падмы (с примесью корейцев и китайцев, ещё одних фанатов достигаторства) с превеликой исторической иронией живут как белые люди, близко к первоисточнику имитируя образ жизни британского высшего класса XX века - а белые, чёрные, коричневые и прочие граждане мира к выпускному классу кое-как осваивают букварь, пока их ИИ-агенты за них годами переписываются в мёртвом интернете, сдают друг другу работы, читают их, выставляют оценки и выписывают ничего не стоящие дипломы. Антиутопия всегда приходит откуда не ждали.

Отрезвляющий взгляд на #ИИ - АВТОР: Глеб Кузнецов (это моя произвольная выжимка) - Для ИИ есть ограничения. Данные для обучения конечны. Вычислительные мощности упираются в физику чипов и энергетику. Но главное – социальные и экономические системы имеют инерцию и сопротивление. - Компании-разработчики обещают "безопасный" и "ответственный" ИИ. Но в пользовательских соглашениях – стандартные дисклеймеры: не используйте для медицинских советов, финансовых решений, юридических консультаций. "Мы не несём ответственности за решения нашего ИИ". Как же тогда этот ИИ заменит экспертов, вся суть работы которых – в принятии ответственности? Врач, инженер, журналист идут под суд за ошибки. Создатели Claude? "Это просто языковая модель". В более суровых юрисдикциях разработчики, понимая, на кого повесят неосторожную фразу модели, буквально кастрируют их, делая бесполезными для огромного спектра целей. - Модели становятся мощнее, бенчмарки растут, задачи решаются быстрее. Но вся бизнес-модель BigTech построена на принципе: приватизация прибыли, национализация издержек. Google обучил модели на всём интернете без спроса, Facebook, ТикТок, X монетизируют данные пользователей, не отвечая за последствия. Но принятие на себя ответственности эксперта убьёт бизнес-модель. - Технари рассказывают о приближающемся AGI, показывают инвесторам экспоненциальные графики. В тот же момент их юристы пишут всё более длинные дисклеймеры. PR-отделы повторяют: "Это просто инструмент, решения принимает человек". А риск-менеджеры категорически запрещают давать любые гарантии. Если что и растёт экспоненциально, так это разрыв между техническими возможностями, создаваемыми инженерами, и готовностью их работодателей нести за это ответственность. Чем ближе ИИ к "уровню эксперта", тем больше текста в пользовательском соглашении. Вероятно, ИИ действительно сможет быть технически способен работать на уровне эксперта. Но он этого не будет делать, потому, что ни одна компания бигтеха не согласится нести ответственность за этого эксперта.

Нисаргадатта: Что собой представляли ваши имя, форма и качества сто лет назад? Посетитель: Ничто. Нисаргадатта: Это же ничто сейчас наблюдает бесчисленные имена, формы и качества.

Пробный пост.

Не знаю отчего, Мне кажется, что в голове моей Крутой обрыв, И каждый, каждый день Беззвучно осыпается земля. Такубоку