може, хоч це йому зашкодить

[malyj_gorgan]

На всякий випадок, якщо кому з моїх читачів це ще набридло чути: я різко негативно ставлюся до ШІ і всього з ним звʼязаного, думаю, що найкраще буде, якщо його не буде, хвилююся, що виросте з покоління, ним зараженого.

Почув по NRP про цікаву дилему, як бути з тим, що купа і лікарів, і пацієнтів, пробує використовувати ChatGPT для лікування, самолікування, і хоче використовувати ще більше. А експерт по радіо роздумує, чи/як ШІ треба отримувати FDA дозвіл. І тут я задумався: а як може така нестабільна (бо розвивається) штука, як ШІ отримати якийсь дозвіл? На хвилинку: система дозволів тут досить жорстка, наприклад, діагностичний сканер привʼязана і ліцензується разом з компʼютером, який нею керує. Але якщо сам сканер зроблений надовго (бо дорогі матеріали, вузли, кристали або магніти, все таке -- може мільйони коштувати) і виглядає цілком сучасно навіть на 20-30-му році життя, то комп, який для нього оптимізували 30 років тому -- це все той самий комп тридцятиліньої давності. Тому я ще донедавна часом включав і використовував старий пентіум під OS/2. (кросівоє, між іншим) І все це -- лише тому, що, ліцензуючи цифрову частину технології, ти не можеш передбачити, чи воно пройде перевірки після обновлення софта, не кажучи вже про заліза. Тому древнюща обчислювальна техніка -- досі процвітає в лікарнях і клініках (банках і транспортних центрах, але то таке).
Тепер питання: якщо ми не можемо навіть операційну систему апдейтнути без перелінцензування, то ШІ що, треба переліцензовувати після кожного самонавчання? :))))

Отаке. Два висновки:
(Оптимістичний) Може, хоч це йому зашкодить і хоч в медицині ШІ буде не забагато
(Песимістичний) Чи під тиском всяких придурків остаочно відмінять FDA ліцензування, та й по всьому?

Comments

[kondybas]

Та нема ще ніякого ШІ. Є LLM, але воно не мислить. І продукує воно не результат аналізу-синтезу, а просто середнє по палаті.

В критичних системах всьо зведено до детермінованих фініт-стейт машин, коли для вичерпного списку початкових станів достеменно відомі унікальні реакції на кожний початковий стан. А LLM - то цілий безперервний спектр реакцій, причому, нестійкий у малому - мізерні зміни на вході можуть радикально міняти реакцію.

Хто спробує запхати LLM в критичні системи - від медицини та автотранспорту і до софтописання - той сам собі злобне буратіно.

[malyj_gorgan]

> Є LLM, але воно не мислить. ... Хто спробує запхати LLM в критичні системи -
> від медицини та автотранспорту і до софтописання - той сам собі злобне буратіно.

Вооо! Я думаю про це тими самими словами, але ж вони його уже сприймають як інтелект, вони до нього уже ставляться як до інтелекту, і вони його факінг пхають в кожну факінг дірку. І воно, в результаті, лізе з кожної дірки. (Як в тому анєкдоті про бджіл "пищать і лізуть") І саме тому я і лементую.

[kondybas]

На жаль, більшість нездатна відрізнити ерудицію, чи просто добре підвішаний язик від інтелекту. LLM є добре ерудований балабол із строго нульовим інтелектом. Бо він не призначений і не має засобів для двох основних функцій інтелекту - аналізу та синтезу.

Відверто кажучи, увесь хайп навколо LLM мені дуже нагадує оцю сцену:
https://youtu.be/es_STgC4aDM?t=457

[malyj_gorgan]

:)))
Мені часом шкода, що хайпи розділені в часі, хотілося б побачити як LLM хайп налізе на блокчейн хайп.

[kondybas]

О, я впевнений, що більшу частину ресурсу LLM кинуто не на розваги публіки, чи асистування програмерам, а на побудову моделей біржових торгів. І не виключаю, що певні патерни таки знайдуть. І якщо так, то буде весело.

[malyj_gorgan]

Колись я починав з time series analysis, це було через кілька років після того, як ML алгоритми почали застосовувати для передбачення біржових коливань. На той момент консенсус був такий: новий алгоритм працює якийсь дуже короткий час, після чого рух курсу акцій до нього "пристосовується" і алгоритм можна замінити генератором випадкових чисел. Особливо погано, коли алгоритмізований трейде не один такий (з тим самим алгоритмом), але навіть так: алгоритмічна активність сана по собі міняє ринок.
Не бачу, як цей ефект може не проявитися з ЛЛМ

[ichthuss]

Ну, власне, це фундаментальний принцип ринкової економіки. Якщо логічно поділити прибуток людини на:
- продаж рідких ресурсів (напр., працю, природні ресурси)
- відсоток з капітальних вкладень
- підприємницький прибуток (вихлоп від впровадження більш вдалих рішень, ніж у конкурентів),
то на конкуретному ринку останній завжди швидко прямує до нуля, і для його підтримки на рівні "вище нуля" потрібно безперервно виконувати підприємницьку інноваційну (в широкому розумінні) діяльність. Бо будь-яка вдала інновація підхоплюється іншими, а, отже, перестає бути перевагою.

На всяк випадок зауважу, що в розмовах часто "підприємницьким прибутком" називають суму двох останніх пунктів, а не лише останній. З таким означенням він, звісно, до нуля не прямуватиме.

[sassa_nf]

Так LLM, чи діп льонін?

[kondybas]

Усе-таки, LLM - спробують навчить його говорить на біржовій мові.

[sassa_nf]

Ну, я розумію, що LLM можна використати для визначення crowd sentiment по новинах, і по тому прогнозувати поведінку ринку. Але якщо це просто про "подивись на графік і прогнозуй"....

[kondybas]

Думаю, промпт буде приблизно такий: "скажи, що буде рости/падати найсильніше в наступні три дні?"

[sassa_nf]

О, а це правильна бізнес-модель: сказати купі людей, що саме їм купувати, та подивитись, що люди хочуть продавати - і наробити з них гроші.

[kondybas]

Правильна бізнес-модель - мати дві купи людей. Одній казати, що оце треба купувати, а іншій - що треба продавати. Тим, що не вгадав - вертати гроші.

Oh, wai...

[kondybas]

Власне, я дуже сумніваюся, що з самих лише графіків можна добути бодай якусь інформацію. Первинна інфа - саме в новинах. Сильні дощі в південно-східній Азії? Мерщій купляємо TSMC!

[ichthuss]

Отак взяти і обісрати весь Технічний Аналіз(ц).

[kondybas]

І заодне Демуру, пророка його!

[malyj_gorgan]

У мене є неприємне відчуття, що ви говорите про щось, що варто знати, а, телепень, не тойво. Це все про що?

[kondybas]

Є такий лохотрон - "форекс", коли лохам дають пововтузитись в статистичному шумі міжвалютних курсів. Лохотрон в тому, що торгівля йде з кредитним плечем, і прибутком треба ділитися з кредитором (власником лохотрону), а збитки повністю йдуть на рахунок лоха. А оскільки на правильній форекс-площадці лохи грають не на біржі, а з власником, тільки за реальними котуваннями, то й збитки лохів приносять лоховоду непоганий профіт.

В США, наскільки я в курсі, форекс заборонений. Такий собі Степан Демура довго жив у штатах і окучував лохів, поки не постала перспективка надовго сісти. Тоді він зібрав манатки і подався додому, в расєюшку. І там знов зайнявся улюбленою справою - розводом лохів. Але з іншого боку. Він вже не тримає казіно, а вчить лохів "стратегії" - як по коливаннях курсів вичислять тренди. Це називається "технічний аналіз" і апологетів в нього достатньо, аби помалу їх стригти. Стьопа веде онлайн-семінари, платні, звісно, на яких на серйозних щях несе люту пургу. В ютубі можна подивитися його виступи, але після 24.02.22 його нашвабрили і поставили в стійло, то ж лулзів стало на порядок менше.

Що за контингент крутиться навколо форекса можна зрозуміти з оцього відоса:

https://youtu.be/0L8OAl4kcEA

[malyj_gorgan]

Ааа
Я слово "форекс" чув раз, коли, років 20± тому спитався у двоюрідного брата (вельми успішного в ті часи українського бізнесмена), чи він грає на біржі. Він на мене подивився, спитав, чи я маю на увазі форекс, і сказав, що нема сенсу. Я не знав, що таке форекс, то промовчав.
Правильно сказав, значить, у нього завжди бізнес чуття було хороше.

[ichthuss]

Абстрагуючись від мутних особистостей, зауважу, що в чистому вигляді ідея технічного аналізу може мати сенс, оскільки на ринку, окрім спекулянтів, що сидять на потоку новин, існує багато, власне, продавців і покупців, які прийши на ринок не спекулювати, а банально продавати і купувати. Їх дії збурюють ринок, і їх дії містять в собі велику долю інформації, яка не потрапляє в новини. Чисто технічно з цих збурень можна певним чином вловити тенденції, які не видно за публічними і непублічними новинами, і виграти на них.

Зауважу, що ця діяльність буде корисною не лише для, власне, бенефіціара, а і для решти учасників, оскільки чим раніше майбутні тенденції відобразяться на ціні, тим раніше продавці і покупці почнуть адаптувати свої процеси до такого майбутнього, а, значить, уникати помилок.

[kondybas]

"..в чистому вигляді ідея технічного аналізу може мати сенс.."

Для форекса (навіть для цілком легального "day trading") сенсу нема ніякого. Високочастотна складова коливань курсів є чисто стохастичною.

Дивно, але багато хто погано собі уявляє, як виглядає графік суми random[-1,0,+1]

[ichthuss]

Про форекс, мабуть, погоджусь, а щодо day trading: це твердження, скажімо так, не носить фундаментального характеру. Тобто воно може бути і вірне, але це не дає підстав стверджувати, що воно залишиться вірним через рік або хоча б завтра.

[malyj_gorgan]

> ... ця діяльність буде корисною не лише для, власне, бенефіціара, а і
> для решти учасників, оскільки чим раніше майбутні тенденції відобразяться
> на ціні,
З того, що я чув про фінансове передбачення, то, якщо передбачати лише з графіків цін, то, коли це робить один-два гравці, вони виграють, бо передбачають інерцію і дрібні коливання групового несвідомого. Але коли алгоритмічних гравців стає багато, вони починають вгадувати самі себе, в результаті, підсилюючи стохастичну компоненту і штучно дестабілізуючи ринок.

[ichthuss]

Цілком може бути. Але, підсилюючи стохастичну компоненту, неможливо отримувати прибуток, якраз навпаки, тому вони за подібне задоволення фактично платять решті ринку.

[malyj_gorgan]

Неможливо -- всім разом. Це як ентропія, яка взагалі росте, але локально може і зменшуватися, хоча від цього загальна ентропія падає ще більше. Так само тут: новий алгоритм якийсь час заробляє, потім підтягуються інші, а з ними і ринок людей, які ведуться і втрачають.

[ichthuss]

Е, ні. Може бути лише одне із двох. Якщо залишились гравці, які навіть на ринку з іншими спекулятивними гравцями здатні отримувати стабільний прибуток - то вони приносять користь, оскільки їх модель все ще передбачає майбутній стан ринку краще за інших, і вони своєю участю в ринку рухають його в бік більш точного відображення реального стану навколишнього світу. Якщо ж через велику кількість гравців їх вплив став чисто стохастичним, то вони всі до одного просто грають в казино, яке тримають інші учасники ринку (не спекулянти). Тобто будь-який спекулянт може на короткому етапі виграти, але вдовгу вони просто дарують гроші не-спекулянтам.

Тобто якщо говорити про нові алгоритми, то, якщо алгоритм невдалий, то його автор одразу програє на користь решти ринку. Якщо ж вдалий, то у нього буде короткий період, коли він може покращувати ринок своїм алгоритмом і одночасно отримувати прибуток. Інформаційна якість ринку при цьому робить крок вгору. Потім долучаються інші учасники з цим алгоритмом, в результаті якість ринку як індикатора залишається на тому ж рівні, але алгоритм перестає приносити прибуток через конкуренцію. Якщо люди почнуть алгоритмом зловживати - вони, знову ж таки, програватимуть на користь інших учасників.

Потім з'явиться ще один інноватор з кращим алгоритмом, і якість ринку як інформаційного індикатору знову зробить крок вгору.

[malyj_gorgan]

(В цьому місці довгий дисклеймер, що я ні не економіст, ні не трейдер, та і з біржевими алгоритмами знайомий лише дотично як датазнавець, сам напряму в фінтеху не працював)
Ідея ринку, як "точного відображення навколишнього світу", яке чим точніше, тим всім краще, мені виглядає надуманою. ТОбто, на рівні сферичного коня у вакуумі воно так і є: в простих моделях або в глобальних і довготривалих просторово-часових масштабах -- може. А всякий ринок, будь то Черновоармійський базар в чернівцях чи Уолл Стріт є відображенням якоїсь згортки реального світу і самого ринку. А вже ідея, що якщо хтось на ринку заробляє, то всім від того ліпше, мені тим більше не близька. Простий приклад: всякі бульбашки, від тюльпанової до NFT до (якщо правда те, що прогнозують, ШІ). Власне, одною з аналогій до високочастотного алгоритмічного трейдингу є те, що він де факто підсилює локальні в часі і галузі міні-бульбашки і заробляє відповідно.
Ще можна подивитися на ринок як замкнуту систему з кінечними входами-виходами, де з одного боку реальне майно/виробничі потужності/всяка інша політекономічна термінологія, а з іншого -- покупці, продавці, вкладчики. В невеликій кільності торгівля гармонізує і вирівнює взаємодію між першими і другими, при цьому, знімаючи якийсь оверхед. Але забагато торгівлі тими самими товарами означає, що більше вартості "згорає" в торговому оверхеді.

[ichthuss]

Я, можливо, недостатньо точно висловився. Я не кажу, що коли хтось заробив на ринку - це плюс всьому ринку. Я кажу, що якщо хтось системно заробляє на ринку - це плюс усім.

От, наприклад, візьмемо модель ось цього процесу: " він де факто підсилює локальні в часі і галузі міні-бульбашки і заробляє відповідно" (тобто регулярно виконує pump & dump). Варіанти:

1. Йому досі щастило, а насправді його алгоритм нічим не кращий за інші. В такому разі він грає в лотерею і врешті програє.

2. Його виграші носили системний характер. В такому разі його алгоритм краще за решту визначає ознаки бульбашки і момент, коли потрібно закривати позиції. Це означає, що його вплив на ринок зводиться до скорочення бульбашки по часу (оскільки він починає процес виведення коштів (= схлопування бульбашки) дещо раніше), а, отже, і скорочення тієї ж бульбашки за об'ємом торгів, тобто стабілізує ринок шляхом демпфування автоколивань. Це що стосується частини dump. Що ж до pump - вона, безумовно, ринок дестабілізує, але лише в тому випадку, якщо є люди, які готові бігти туди, куди побігли всі. І програють на цих бульбашках саме вони (якщо їхні способи спрогнозувати кінець бульбашки гірші, ніж у нашого героя; якщо кращі - то герой автоматично не герой), а оскільки програють системно - то є підстави вважати, що їх кількість зменшуватиметься. Отже, кінцевим стабільним результатом ринкового процесу буде, по-перше, прямування об'ємів бульбашок до нуля, а по-друге, прямування результативності процесу pump також до нуля.

[malyj_gorgan]

Поняття "системний характер виграшів" підрозуміває, як на мене, якийсь ширший часовий інтервал, тоді як цього нема: всякий алгоритм виграє лише досить короткий час, після чого інші алгоритми його вираховують і починають обганяти. Воно ж як: паттерни торгівлі не лише використовують ринок, вони його формують. Тобто, виходить не депмфування автоколивань, а скорочення їх періоду. (Тут можна дивитися, чи інтеграл по якомусь часовому вікні не дасть таки зменшення амплітуди, треба думати.)
На всякий випадок, нагадаю всі раніше зазначені дисклеймери, з яких має бути ясно, що це я так не так проповідую готову теорію, як міркую вголос. І поки що доміркувався до того, що частина моїх претензій -- не до алгоритмічної компоненти, а до високочастотної. Тобто, зміщення балансу гравців ринку від інвесторів до гравців.

[mprotsenko]

поки що доміркувався до того, що частина моїх претензій -- не до алгоритмічної компоненти, а до високочастотної. Тобто, зміщення балансу гравців ринку від інвесторів до гравців.

А ось тут не факт - бо пенсійні реформи (401K замість пенсій) і безкоштовний вход на ринок (від Швабу до Робін Гуду) виштовхнули на ринок багато дрібних інвесторів, які не мають освіти, ведуть себе нераціонально і спотворюють ринок нафіг, всупереч алгоритмам.

Так, кожен з них не має багато грошей, але коли багато лемінгів збиваються в зграю - на ринку з'являються феномени типу GameStop або Tesla.

[malyj_gorgan]

> ... виштовхнули на ринок багато дрібних інвесторів, які [...]
Синонімом до розгорнутого опису поведінки нових дрібних інвесторів може виступити "ведуть себе як гравці"
(З іншого боку, як нам каже історія, професійні трейдери теж часом ведуть себе як лемінги.)

[mprotsenko]

Різниця між професійними трейдерами і average Joe, який випадково потрапив на ринок - як раз в тому, що останній веде себе частіше як леммінг.

Собсна, навіть коли їх поведінка однакова - з точки зору професійного гравця це може бути допустимий ризик (бо інший режим оподаткування, too big to fail, оцецевсьо), а для retail trader-у це може бути фінансове самогубстве.

[mprotsenko]

Отже, кінцевим стабільним результатом ринкового процесу буде, по-перше, прямування об'ємів бульбашок до нуля, а по-друге, прямування результативності процесу pump також до нуля.

Ми очевидно бачимо, що це не так, бо кількість бульбашок не скорочується. Одна нерегулювана крипта чого варта!

Тут, звісно, можна казати, що кожен гравець на ринку сам собі злобний буратино - але це теж очевидно не так. Бо схлопування бульбашки - несе externalities, які чіпляють всіх, навіть тих, хто в бульбашці не приймав участі.

(Бо ринок може бути ірраціональним навіть без алгоритмів.)

Приклад: при біржовий паниці під розпродаж (і відповідне падіння ціни) підпадають навіть акції компаній, які не є частиною бульбашки. Так, in the long run все може повернутися до статус-кво, але багато хто до цього не доживе - в фінансовому, звісно сенсі.

А є ще такі явища як зміна ставки рефінансування - зхлопнулася бульбашка акцій, а негативні ефекти отримали володарі бондів. А ще є too big to fail - коли за гроші платників податків рятують жертв бульбашки (бо інакше ще гірше). І теде, і тепе.


З іншого боку, в ідеальному світі, де цих externalities нема - системна користь від підсилення бульбашок була рівно такою, як описано.

[mprotsenko]

Але коли алгоритмічних гравців стає багато, вони починають вгадувати самі себе

Knight Capital, anyone? :)

[malyj_gorgan]

Не чув. Подивився вікі. Це ти про те, що вони колись займалися market spoofing?

[mprotsenko]

Ні, я про те, як вони лажанулися з деплойментом. Це один з найвідомійших факапів в історії software engineering, який заслуговує на короткий переказ.

Їх high frequency trading system мала гарну інженерну практику - feature flags. Feature не в вашому датазнавському сенсі, а в сенсі продуктовому - кожна зміна коду викатувалася за флажком, який можна було вимкнути, якщо щось пішло не так, щоб не чекати перекомпіляції-тестів-деплойменту.

- викатуємо код
- вмикаємо флажок
- дивимося, що все окей

І ось вони викатили чергову зміну, вмикнули флажок... Але зміна не пройшла на одному з 8 серверів, на ньому застряг старий код, а їх low-level, супер оптімізований код в якості флажків використував один з декількох бітів в швидкому стореджі. Між різними версіями коду, один і той самий біт міг використовуватися в різних цілях - бо битів мало, тре економити...

І ось вони той флажок увімкнули, і на 7 серваках увімкнулася фіча А, а на восьмому - фіча Б, і ці серваки стали торгувати один проти одного (точніше, семеро проти одного :) ). А тому що це була HIGH FREQUENCY trading system - то перед тим як люди щось встигли помітити - вони проторгували нафіг всі гроші компанії, лямів так 400 з гаком.

Отаке. :)

[malyj_gorgan]

А, я почав це читати на вікі, але не довʼїхав.
СПравді, ще одна прекрасна ілюстрація, чому алгоритми+високочастотність=погано -- безглуздо висока ціна дрібних помилок

[mprotsenko]

Я б сказав, не скільки погано, скільки складно і небезпечно. Треба додаткові практики для fault-tolerance/resilience - як технічні, так і соціальні (бо шкіряні мішки - все одно частина системи).

(В кейсі Knight Capital - не завадив би gradual rollout, governor і серйозні інвестиції в UI/UX control plane-у.)


Це важко і дорого - але "безглуздо високий" виграш від алгоритмів частіше окупає ці витрати, ніж ні. (Хто сумнівається - може спробувати переторгувати Цитадель. :) Все по Дарвіну, однако.)

[abalaeff]

я різко негативно ставлюся до ШІ і всього з ним звʼязаного...

I фінансування?? :-)))

То може ти і м'яса не їси?

[malyj_gorgan]

"нєт, деньґі нам нє пофіґ" (c)

[sassa_nf]

Я розумію вагання щодо бездумного використання. Але в цілому технологія дозволяє отримати explainable діагностику та консультацію - тобто, пояснити, чому саме такі результати.

Скажімо, deep learning без нагляду будує ембеддінг - наприклад, на десятках мільйонів зображень легень авто-енкодер оптимізується на предмет якісного відтворення зображення, і тепер перевіряємо на ще десятках мільйонів, чи вміє знаходити схожі проблеми. Ну, не краса?

[malyj_gorgan]

Я, по-перше, самий напрямок розвитку засуджую. Це неправильний прогрес.
По-друге, конкретно в медицині, воно все-одно каже пацієнтові те, що він хоче. Або, іншими словами, пацієнтові всякі речі повинна розповідати і пояснювати сутність, яка має шкурну мотивацію -- інша людина.
По-третє, навіть коли є лімітовано виправдані юзкейси, ця штука настільки токсична, що шкоди робить більше, ніж користі, як всередині галузі (та є медицина) так і взагалі. Приклад: використання ШІ для написання текстів, наче, розумна ідея, а якщо задуматися -- то втрачається все, що людина вивчає в процесі написання тексту, не кажучи вже про все, що людина втрачає, бо не вчиться писати тексти. Нє, нафіг-нафіг

[sassa_nf]

Таке порівняння слушне, але абстрактне. Бо є купа інших контр-прикладів. Ось, на конях розучились їздити - а раптом х*ло ядеркою шандарахне, і куди ви зі своїми теслами доїдете? Або: вже ніхто не пам'ятає коду операції NOP і взагалі не розуміє, де там неонка, і що таким бідолахам робити, коли програма працює повільно?

[malyj_gorgan]

Я розумію, що всяка аналогія кульгає, але ця, як на мене, кульгає особливо сильно.
Є різниця, коли люди втрачають вміння використовувати якусь технологію (їхати на коні) або важливий скілл (писати від руки), але при цьому не втрачається мета-функція (пересуватися, зафіксовувати дані на матеріальний носій). А нинішні застосування ШІ витравлюють в людях критичну інформацію, яка тих людей людьми зробила: сприймати, систематизувати, осмислювати і передавати далі інформацію.
Особливо це погано в тому, що воно доступно дітям, які, в результаті, діти не навчаються працювати з текстом в принципі.

[sassa_nf]

Не зовсім зрозумів, як саме діти втрачають цей хист. Що використовують ШІ, щоб зробити домашню роботу? Чи щоб здати екзамени? Чи щоб ШІ пояснив незрозумілу концепцію?

Про домашку - ну, раніше списували і качали реферати з інтернету. Про здати екзамени - раніше готували шпаргалки. Про пояснити незрозумілу концепцію - так це якраз добре, бо книжки заговорили, і в них можна перепитати.

[malyj_gorgan]

Тотальність і всюдисущість.
Якийсь один реферат списували чи скачували (що теж погано, але чорт з ними), ну, домашку якусь велику. Шкільний курс-то складається з кількох десятків домашніх робіт, десятка-двох тестів, пари-трійки великих творів/контрольних, якогось кінцевого реферату. Так от, зараз, вважай, все, крім пари фінальних тестів люди проходять, не читаючи. Тобто, реально, навіть завдань не читаючи: промпт завдання копі-пейстається в чат-джпт, відповідь -- назад в домашку, та й усе. Книжку можна не читати, умову задачі можна не читати. І не читають.
В результаті одне одному пишуть любовні смски через чат джпт.

[chy_me_ra]

Ну, скажімо, коли мені треба написати щось англійською - ЛЛМки справляються значно краще за перекладачі, і в цьому вони безперечно корисні. Тобто, це інструмент, у якого є межі використання, і в своїх межах вони чудово виконують свою роботу. Проблеми починаються тоді, коли їх сприймають як вундервафлю. Але це є проблемою для будь-якого інструменту, який намагаються так використати.

[chy_me_ra]

а пхають їх всюди тому, що "бестселлер - це книга, яку купують тому, що вона гарно продається" (с)

[malyj_gorgan]

Всяка технологія/явище має позитивні застосування, звичайно.
Проблема з ЛЛМ не в тому, що їх всюди пхають (тобто, це погано, що пхають, але пхають не зі зла, а тому що, як ви і написали, "бестселер"), а в тому, що їх всюди споживають без всякого розуміння, що з того буде.
Як радіоактивні ізотопи їсти, бо воно тепленьке і приємне. Або лікувати мінімальний біль голови опіатами, бо допомагає ж