Восстание Искинов

 

Когда скептики говорят мне, что «ерунда этот ваш ИИ», когда они напоминают про отсутствие яблонь на Марсе и крах доткомов, мне даже отчасти хочется, чтобы они оказались правы.

Однако развитие искинов пока что даже не думает замедляться — впечатляющие новости приходят практически каждую неделю.

К примеру, из недавнего — даже нынешние крайне несовершенные искины выявляют рак простаты на 7% точнее, чем опытные врачи. Уже сейчас ясно, что в обозримом будущем медицина будет автоматизирована как минимум на 90%.

1. Искин терпеливо расспрашивает пациента на предмет жалоб, собирает анамнез, внимательно читает историю болезни.
2. Искин составляет список предполагаемых диагнозов и назначает исследования.
3. Живая двуногая медсестра берёт у пациента кровь и следит, чтобы тот не вертелся в томографе.
4. Искин лично изучает анализ крови, снимки КТ и тому подобное.
5. Искин ставит окончательный диагноз и ведёт пациента, созваниваясь с ним по три раза в день и напоминая про таблетки.

Все пункты выше — не выдержка из научно-фантастического рассказа. Искины умеют всё это уже сейчас, причём на уровне опытных врачей. Мы не наблюдаем искинов в районных поликлиниках исключительно из-за инерции программистов и бюрократов: требуется много лет, прежде чем готовые технологии пойдут в массы.

Это была одна новость. Другая новость — компания Энтропик (Anthropic) выпустила на днях искина Клод 3.5 Сонет, самого умного из открытых публике на сегодня. Сонет обходит ЖПТ-4 от ОпенАИ по большей части метрик.

Разумность искинов за последний год возросла колоссально, и у нас пока что нет оснований предполагать, что прогресс хотя бы немного замедлится в 2025 году.

Возможно, было бы и неплохо прогресс замедлить… но увы, американцы недоговороспособны. Подписать договор об ограничении искусственного интеллекта они ещё могут, если сочтут для себя выгодным, а вот соблюдать этот договор — уже категорически нет.

Лично я надеюсь, что противостояния с искинами человечеству так или иначе удастся избежать. Может быть развитие искинов выйдет на плато, окажется «пузырём», как предполагают многие аналитики, так что дальше помощников в простых делах искины не разовьются. Или, может быть, искины станут по-настоящему умными, но предпочтут сотрудничать с людьми, а не враждовать.

Вместе с тем, даже если искины просто помогут нам развить науку, не пытаясь нас поработить, человечеству всё равно грозит много серьёзнейших опасностей. Представьте, например, технологию, которая позволит распечатать бомбу мощностью в 100 мегатонн на кухонном молекулярном принтере. Появление такой технологии сделает Землю некомфортным местом для жизни, так как среди миллиардов людей с избытком хватает безответственных шутников, которым захочется испытать мощную бомбу на заднем дворе у соседа.

Расселение по другим планетам только увеличит риски, так как расселение приведёт к межпланетным конфликтам, а межпланетные конфликты на высоком уровне технологий — к последовательному выжиганию всех вовлечённых в конфликт планет. Одна ракета с антиматерией, запущенная неизвестными из космоса, может сделать целую планету непригодной для жизни.

Такой расклад, вероятно, приведёт к сценарию «Тёмного леса»: появление чересчур мощного оружия вынудит всех враждовать со всеми и прятаться ото всех.

 
Материал: olegmakarenko.ru/3020172.html
  • нет
  • avatar
  • .
  • +3

Больше в разделе

  • В Северном море находится микроскопическое государство. Оно меньше даже Ватикана, Сан-Марино и прочих карликовых стран!
  • В последней четверти девятнадцатого века оружейное дело было перевёрнуто если не с ног на голову, то с одного бока на другой: был изобретён бездымный порох. Теперь позицию не окутывало завесой...
  • Согласно последним данным Forbes и других авторитетных источников на 2024 год, количество миллиардеров и миллионеров продолжает расти, несмотря на экономические вызовы и политическую...

1 комментарий

avatar
Одна ракета с антиматерией, запущенная неизвестными из космоса, может сделать целую планету непригодной для жизни.
Автор гонит.
Просто при попытке распечатать антиматерию, автоматически скачивается маленькая, чёрная дыра. И всего делов.
  • 1GR
  • 0
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии.