malyj_gorgan: (Default)
[personal profile] malyj_gorgan
По роботі, через примху начальства, доводиться переписувати пару шматків коду з SQL на Скалу, тої Скали не знаючи зовсім. Але потрошки, потрошки... Проблема в тому, що це для внутрішнього нашого датастора, там компіляція/перевірка на помилки триває хвилину, а запуск найтривіальнішого коду займає хвилин 5-10, тому все помаленько дуже. Але, 80% уже готово...
...І раптом вперся в помилку, яку уже дві години не можу виправити. З того всього виглядає, що в dataframe.column.when() немає логічного "OR". Воно тупо ламається на значку "||"


Якщо це не баг, а фіча, поясніть мені, тупому, кому така фіча могла прийти в голову. І, основне, НАФІГА?

P.S. Цікаво, скільки з тих, хто користується Скалою, знає безсмертні рядки про
Лупайте сю скалу! Нехай ні жар, ні холод
Не спинять вас. Зносіть і труд, і спрагу, й голод
Бо вам призначено скалу сесю розбить.

Date: 2023-12-03 01:58 am (UTC)
juan_gandhi: (Default)
From: [personal profile] juan_gandhi

Не, ну надо различать скалу и всякие библиотеки, от самых дебильных до самых продвинутых. Большой разброс. 5-10 хвилин - это точно как-то многовато. Я такое видел в одной дебильной конторе, в их дебильной джаве, когда одну и ту же апликацию инициализировали шесть раз за каким-то хреном... man, can we switch to English to discuss the problem? I'm really clueless about how to talk about all this in Russian or Ukrainian.

Date: 2023-12-03 03:37 am (UTC)
From: [personal profile] abalaeff
А які рядки знають, а Скалу ні, ті вважаються? 😁
Edited Date: 2023-12-03 03:42 am (UTC)

Date: 2023-12-03 07:38 am (UTC)
From: [personal profile] sassa_nf
It would help if you could mention imports (so it would be possible to search for docs) and example line of code. Looking for dataframe Spark docs pop up. They don't have .column or .when().

Date: 2023-12-03 09:59 pm (UTC)
From: [personal profile] ichthuss
Якщо я правильно пам'ятаю, то в Скалі || (і інші) - це просто назва функції, а "x || y" є красивим записом "x.||(y)". Тому особисто я б спробував викликати логічне or як функцію (а документація підказує, що зветься вона
public static Column bool_or(Column e)
)

Date: 2023-12-04 09:39 am (UTC)
zhiva: (Default)
From: [personal profile] zhiva
а як виглядає ваш виклик when? бо я тут трохи пошукала про scala spark or conditions in when, і наче люди таке успішно роблять.

Off topic

Date: 2023-12-31 05:26 pm (UTC)
timelets: (Default)
From: [personal profile] timelets
Can you do me a favor and reply to this guy that the bet is still on. I'm banned in yakov's LJ and can't do it myself.
https://yakov-a-jerkov.livejournal.com/2117488.html

He should contact me here on DW.

Thank you and Happy New Year!

Profile

malyj_gorgan: (Default)
malyj_gorgan

June 2025

S M T W T F S
12 345 67
89 1011 121314
151617181920 21
22232425262728
2930     

Style Credit

Expand Cut Tags

No cut tags
Page generated Jun. 24th, 2025 04:50 pm
Powered by Dreamwidth Studios