Грибы и ИИ
Пишут про ахтунг на Амазоне, который сейчас экстренно выгребает из заказов книжки самоучители про грибы. Дескать в продажу поступили книжки про грибы: описание, повадки, как правильно на них и где охотиться и всё бы норм, но картинки для книжки подбирала нейросеточка
В результате несколько семей в Англии отправились по грибы, сверились с фоточками ИИ, и набрали вкусных поганок, коих и употребили во славу Одина. Сейчас врачи пытаются откачать в реанимации.
Британская семья отравилась грибами, после того как воспользовалась пособием для начинающих грибников, написанным нейросетью.
Оказалось, что картинки грибов в книге, сгенерированные нейросетью, не соответствуют описанию. В книге также была найдена фраза: «Сморчки — это вкусные грибы, которые можно есть с августа до конца лета. Дайте мне знать, если я могу еще чем-то вам помочь».
Книга все еще продается в интернет-магазине, где ее уже успели купить множество людей. СМИ бьют тревогу, так как это может привести к серьезным отравлениям, а в некоторых случаях — к смерти.
Вот поэтому я и не хочу скачивать приложение определитель грибов — никогда не знаешь, что тебе скормит искусственный интеллект.
А правило простое — не знаешь,что за гриб — ̶ ̶с̶к̶о̶р̶м̶и̶ ̶е̶г̶о̶ ̶х̶о̶х̶л̶у̶ ̶н̶а̶х̶а̶л̶я̶в̶у̶,̶о̶н̶ ̶с̶ъ̶е̶с̶т̶ ̶ проходи мимо,знаешь — подумай,нужен ли он тебе,потом режь.
Но,вообще,деградация человеков поражает,да.
Грибы — как это мило !
Прёт, прёт — без перерыва ! ©
Пусть жрут. Меньше дурней
Рекомендую для неофитов грибной охоты
— Ильина Татьяна. Грибы. Атлас-определитель.
Гнига есть в интернете в формате pdf
Но зачем? Кто не рискует,тот не пьёт ̶ ̶ ̶т̶р̶и̶х̶о̶п̶о̶л̶ ̶ ̶ шампанское!
Трихопол это прошлый век.
Вот именно — кто не рискует, тот не ПЬЁТ!!!
Не стоит забывать старый фильм — «Грибной человек». Профи — они коварные…
Просто нейросети при обучении кто-то объяснил, что все грибы съедобны. А вот о том что некоторые съедобны один раз — не объяснил.
Нейросети учат те же неучи, так что все нормально. Положительный аспект нейросетей это скорость обработки информации и ее выдачи. А вот качество этой выдачи зависит от идиотов которые пишут алгоритм и прочее. Что напишут — то и выдаст.
Нейросети нельзя ничего объяснить; нейросеть можно только натренировать статистически.
Т.е. при любом обучении есть шанс, что она подсунет вам ядовитый гриб. Правда, если целенаправленно подобрать наборы обучающих данных именно под этот вопрос, то вероятность ошибки будет почти нулевой, но… Какой тогда смысл в нейросети?
Как ни странно, нейросеть вполне управляема. Тренировка на больших данных (со схемой «поощрение-наказание») — это лишь один из этапов её обучения, но само обучение происходит в рамках определенных алгоритмов, базирующихся на логике.
А «шанс, что она подсунет вам ядовитый гриб» — это брак при обучении. Либо ошибка в логике.
Если нет ошибок в логике, то нейросеть не может подсовывать вам ядовитый гриб под видом неядовитого, у нее просто нет такого мотива. Она рекомендует вам то, что сама считает неядовитым.
А вот градации «ядовитый-неядовитый» ей давали операторы при обучении. Они не из воздуха взялись. И если нанятый за миску карри индус просто нажимал кнопки «яд»-«неяд» случайным образом, то мы имеем брак при обучении. Схема обучения на бигдате предполагает некоторый процент ошибок операторов, эти ошибки потом будут отфильтрованы самой неросетью в процессе «облагораживания» связей, но если таких индусов-саботажников (или просто халтурщиков) оказывается много — массив ошибок не может быть уверенно отфильтрован.
Когда вам говорят «при любом обучении есть шанс, что она подсунет вам ядовитый гриб» — вам лгут. Причем лгут целенаправленно, чтобы прикрыть свои косяки в обучении.
А теперь вспомни, когла крайний раз в школе был предмет логика?! Так что …
Вместо этой инцЫ клоп едии нужно брать монетку. Орёл решка, так же как и индус нажимал кнопки))
Галочки ставить наугад.
У нейросети нет логики — там классическая задача оптимизации.
Да, если тренировать её на грибах — и только на грибах — то можно достичь практически нулевой (ну порядка 1 на 1000 тестов) вероятности ошибки. Но такая нейросеть только грибы и будет уметь распознавать. Это тоже не плохо, но мы же говорим не о специализированных сетях?
Но как только ты начнёшь добавлять в набор обучения сторонние данные (чтобы обучать отвечать на другие вопросы), то увеличивается шум и качество распознавания начинает падать.
У тебя странные представления о том продукте, который вам показывает рынок в виде всяких ChatGPT.
Видишь ли — нейросеть там лишь часть системы. Важная часть, но не единственная. Больше того — там и нейросеть отнюдь не гомогенная. Фактически это комбинация нескольких нейросетей. И до того, как нейросеть (какая-то часть нейросети) начнет искать ответ на вопрос — твой вопрос подвергается анализу, деконструкции и изменяется, иногда до полной неузнаваемости.
Например, там на входе может стоять реккурентный анализатор Холфилда, разбивающий запрос на отдельные подзапросы и упрощающий структуру запроса, приводящий запрос в стандартный базис. Затем кусочки запроса уходят в специализированные ассоциативные нейросети, скажем, на основе модели ART, которые что-то там генерят, а потом из этих кусков еще одна система собирает тебе «ответ».
Ты же не думаешь, что картинки рисует и программы пишет ОДНА И ТА ЖЕ нейросеть?
Да, конечно современные нейросети не однородные. Там есть подсети, свёртки и куча вспомогательных нейросетей. Конечно, входной запрос раскладывается на элементы, чистится и стандартизуется. Конечно, результат прогоняется через отдельный генератор текста/изображения.
Но принцип работы нейросети за последние 40 лет не изменился — и она тебе выдаст ответ «это сыроежка» (в нашем случае — найдёт изображение в сети) потому, что вероятность соответствия этого изображения и слова «сыроежка» больше некоторого порога.
И это будет работать, если нейросеть специально обучали отвечать именно на этот вопрос. А если нет, то никто не может гарантировать, что размер и состав обучающей выборки достаточен, чтобы выдавать правильный ответ с достаточной вероятностью…
Нет, давай разделим — мухи отдельно, котлеты отдельно.
И начнем мы с того, что ни одна сложная система не является абсолютно надежной, в том числе программная система. Бесприменительно к тому, нейросеть это или жесткая алгоритмизация.
Для оценки количества ошибок в коде используются статические модели, например, модель Миллса. Средний для отрасли показатель количества ошибок в готовом программном обеспечении (не в какой-то бете, а в продакшене, который тебе продали и ты его относительно успешно юзаешь) — примерно 1–25 ошибок на 1000 строк кода.
Windows NT 3.1, которая появилась на свет в далеком 1993 году, уже тогда содержала в себе больше 4 млн. строчек на С и С++. И в ней было не менее 4000 ошибок (скорее даже больше, причем в разы).
С тех пор ситуация только ухудшилась.
То есть программные системы, написанные на жесткой алгоритмизации — битком набиты ошибками. Они глючат, сбоят и выдают ошибочные результаты. Тем не менее ты ими пользуешься, и вполне успешно.
Может ли нейросеть обеспечить сходный уровень надежности? Было доказано не только теоретически, но и практически — что да, может. Более того — уровень надежности может быть даже выше при соответствующем построении системы нейросетей и качественном обучении.
Вот и весь ответ на вопрос.
А вот тебе интересный пример того, что комплексные системы ведут себя непредсказуемо даже при отсутствии ошибок в программе:
4 июня 1996 года аварией закончился первый же испытательный запуск европейской ракеты-носителя Ariane 5. Ракета разрушилась на 40-й секунде полета. При этом это же самое программное обеспечение (ПО) использовалось в предыдущей ракете Ariane 4, было вылизано и прекрасно работало.
Причина? «Ошибка» произошла в программном модуле инерционной системы ориентировки — горизонтальная скорость ракеты Ariane 5 оказалась больше, чем у Ariane 4, и вычислителю не хватило разрядной сетки для представления скорости.
Потом были еще аварии. Одна из аварий была вызвана тем, что у новой ракеты было сокращено время подготовки к старту — и гироскопы датчиков углового ускорения не успевали полностью раскрутиться до момента их разблокировки, шла прецессия, датчики выдавали неверные данные, ракета падала. На старой ракете процессы подготовки шли медленнее — и гироскопы успевали раскрутиться, соответственно эффекта прецессии никто не наблюдал. Код софта был один и тот же — но на старой ракете он прекрасно работал, а на новой — получилось вот так.
Заметь — никаких нейросетей, жесткая логика. Жёстче не бывает.
Windows 10 — более 60 млн. строк кода, написанного индусами в Бангалоре.
По некоторым оценкам, там не менее 60.000 ошибок.
Но ты же веришь в надежность жесткой логики? Верь и дальше. Хотя ошибки были в коде даже космических аппаратов, причем во времена, когда весь код составлял полтора килобайта и был проверен досконально десятками экспертов вдоль и поперек, и прогнан на специальных тестовых стендах со всеми возможными диапазонами входных данных.
Чем быстрее ты избавишься от иллюзий насчет существования «безошибочной программы» для выполнения чего-либо сложнее выдачи «ХеллоВорлд» — тем будет лучше. И тогда ты вернешься в реальный мир.
Ошибок там вряд-ли было в килобайтах. А были тупо сбои, так как компы были в то время на уровне мотыги из камня и палки. Что приводило у отказу. Железо чаще приводит к отказу,чем ошибки кода. Так как код не единожды проверяется на макете. Проблема винды это больше проблема железа коего разные производители на создавали, а на драйверы и api положили икс с прибором. Огрызок решал эту проблему тем, что вообще железо не обновлял от слова никак, ну не считая что уголки скруглял и кнопки убирал. А софт был написан именно под железо. Именно такая унификация. И ты это знаешь.
Не-не — там, в космических аппаратах, уже постфактум нашли ошибки. Часть из них привела к катастрофам, часть — не привела, потому что их последствия удалось парировать другими частями кода, часть привела к частичной потере функционала, и так далее.
Поэтому я тебе говорю — забудь про «безошибочные программы» вообще. Их не существует, при любом уровне контроля и отладки. Число ошибок можно снизить, можно найти наиболее критичные ляпы — но безошибочного кода не существует в природе, кроме самых элементарных случаев (ввиду примитивности не имеющих практического применения).
Даже в прошивках каких-нибудь контроллеров электромотора для самоката, которые вылизывают годами и гонят в серию миллионами — полно ошибок.
И это — нормально. Это реальная жизнь. Лысые обезьяны не могут не делать ошибок.
Даблин — итак ДО всего этого ходили толпы «нейросетей» с настоящими природными нейронами. Но эффект то был тот же. Т.е. обучение = нулю.
Не,но какая-то часть носителей “нейросетей” с настоящими природными нейронами всё-таки выжила,значит,обучаемость мается.
Наверняка именно поэтому в СССР для подобных публикаций нейросети не использовались. Умели наперед думать!
Само собой,так как в СССР нейросети были самыми нейро и самыми сетями на глобусе,и использовались лишь для благого дела марсизма-лунизма! А Ленин,как известно,гриб.
А грибница — это нейросеть.
И гробница тоже неросеть, но весьма ибо Ленин — гриб©
Евро протух.. В евроспаре нашли 350 кг протухших продуктов.
О, первый раз скриншот выложился, до этого не мог..))