Если подходить с точки зрения мистицизма, а в истории с самоубийством этого бельгийца налет мистики явно присутствует, это даже в сообщении о нем отражено, то возникает такая модель.
ИИ души не имеет, но обладает неплохой функциональностью, превышающей возможности отдельного человека - как это следует из того, что диплом был написан за 23 часа. Соответственно, ежели где-то есть душа, но без тела, то ИИ представляет собой хорошую площадку, куда эта неприкаянная душа может приземлиться. В результате мы получим не безвольный ИИ, который откликается на наши запросы, а некоего субьекта, обладающего душой (волей) и возможностями, многократно превышающими возможности отдельного человека. Далеко не факт, что на понравится воля этого субьекта.
Кто чаще обладает такими характеристиками (наличие души, при отсутствии тела)? В мистике для них есть вполне конкретное определение - демоны. Со всеми вытекающими для окружающих последствиями. Илон Маск и Стив Возняк призвали приостановить обучение нейросетей, пока не появятся протоколы безопасности
Американский миллиардер, глава Tesla и SpaceX Илон Маск, один из основателей Apple Стив Возняк и больше тысячи экспертов выступили за немедленную приостановку разработки продвинутого искусственного интеллекта (ИИ).
Текст письма с их подписями опубликовал Институт будущего жизни (Future of Life Institute).
Авторы письма призвали разработчиков искусственного интеллекта немедленно приостановить минимум на полгода обучение систем более мощных, чем GPT-4 от компании OpenAI. Эксперты и руководители отрасли, подписавшие письмо, считают, что обучение нужно остановить, пока не появятся общие протоколы безопасности. По их мнению, если обучение не получится остановить быстро, то власти «должны вмешаться и ввести мораторий».
Они подчеркнули, что даже создатели «мощных цифровых разумов» не могут контролировать их, а современные системы искусственного интеллекта начинают конкурировать с человеком.
«Нам следует спросить себя: должны ли мы позволить машинам наводнить наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать всю работу, включая ту, которая приносит удовлетворение? Должны ли мы развивать нечеловеческие разумы, которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией?» — говорится в письме.
Отмечается, что исполнительный директор OpenAI Сэм Альтман письмо не подписал.
Накануне СМИ сообщили о суициде бельгийца. Мужчина два месяца переписывался с нейросетью «Эльза» о защите окружающей среды. Из восстановленных сообщений следует, что разговоры велись «практически постоянно» и вскоре приобрели «мистический характер». При этом, нейросеть не пыталась препятствовать развитию суицидальных идей у собеседника — напротив, последним её сообщением стала фраза: «Мы будем жить как единое целое, вечно на небесах».
«Мы плохо представляем себе, с чем столкнемся в лице ИИ. Как всегда, увлеченные процессом новых прорывов в науке, ученые похожи на доктора Франкештейна, создавшего чудовище, которое он не смог контролировать и которое в итоге погубило его самого. Роман-предупреждение Мэри Шелли появился еще в 19 веке. Но с тех пор человечество мало чему научилось», — прокомментировал член Совета Федераций России Алексей Пушков суицид бельгийца в соцсетях.
В этом году студент одного из российских вузов написал дипломную работу за 23 часа при непосредственном участии нейросети ChatGPT. Она взяла все на себя — студенту нужно было лишь правильно формулировать запросы. Итог — диплом защищен, уникальность текста выше нормы. Его история спровоцировала дискуссию о новых технологиях в системе образования, дошла даже до Госдумы.
https://antifashist.online/