serhii.net

This will be the Markdown draft, I’ll jot things down and then expand.

Introduction

• Languages used on the Internet - Wikipedia list quoting Usage Statistics and Market Share of Content Languages for Websites, September 2023

Наукова новизна

These guys trained an UA LM(youscan/ukr-roberta-base · Hugging Face), but tested it on their internal tasks and they say it’s better than bert-base-multilingual-cased : How to Train a New Language Model for NLP | YouScan

LM Benchmarking

Theory

Terminology

• from my first paper - task / dataset / benchmark / …

Kinds of benchmark tasks

Notable benchmarks

Similar work

• Contextual Embeddings for Ukrainian: A Large Language Model Approach to Word Sense Disambiguation - ACL Anthology
  • Auto-generating WSD tasks based on SUM dictionary
• All ua-datasets

Ukrainian LM benchmark tasks

Basic description

Single-input understanding tasks¹

POS tagging

POS tagging

News classification (NC)

News classification

Pair input understanding tasks

UA-SQuAD

SQuAD

Word Sense Disambiguation

Contextual Embeddings for Ukrainian: A Large Language Model Approach to Word Sense Disambiguation - ACL Anthology<@labaContextualEmbeddingsUkrainian2023 Contextual Embeddings for Ukrainian (2023) z/d/>

Children’s book test

Original: <@taskCBT (2015) z/d/> Get Ukrainian book, POS-tag, generate questions

Benchmarks

Benchmark data contamination

Canary GUID strings

• My own benchmark tasks have a canary string
• The three ones from ua-datasets don’t, and are too available online - they might have become part of some LLM training data

Context: 230928-1527 Evaluation benchmark for DE-UA text Here I’ll keep random interesting benchmarks I find.

HELM

• Code
  • Random code sample from all common-sense scenarios: helm/src/helm/benchmark/scenarios/commonsense_scenario.py at main · stanford-crfm/helm
• Scenarios: Holistic Evaluation of Language Models (HELM)

GLUECoS

code: GLUECoS/Code at master · microsoft/GLUECoS

Cross-lingual

XGLUE

• microsoft/XGLUE: Cross-lingual GLUE
• Interesting enough for list of tasks and code
• Data: XGLUE

Leaderboards

• Chatbot Arena Leaderboard - a Hugging Face Space by lmsys

‘evaluation harness’es

• lm-evaluation-harness/lm_eval/tasks at big-refactor · EleutherAI/lm-evaluation-harness - very clean code etc., currently the branch big-rewrite is the best one
  • love how all datasets live on HF
  • love how individual datasets are described in yamls¹, and the benchmarks running them as well²
  • love the concept of task versioning
• ParlAI/parlai/tasks/multinli/test/multinli_test.yml at main · facebookresearch/ParlAI

UA-RU parallel corpus

pravda.com.ua¹ має статті трьома мовами:

• Залужний востаннє поговорив з Міллі на його посаді | Українська правда
• Залужный в последний раз поговорил с Милли в его должности | Украинская правда
• Commander-in-Chief of Ukrainian Armed Forces speaks with Milley for last time before latter steps down | Ukrainska Pravda

The difference seems to be only in that one part of the URL!

Article; title; tags; date,author.

Then article title+classification might be one of the benchmark tasks!

Is there anything stopping me from scraping the hell out of all of it?

Google finds 50k articles in /eng/, 483k in /rus/, assumption: all english articles were translated to Russian as well.

=> For each english article, try to get the Russian and Ukrainian one from the URI.

• ©2000-2023, Українська правда. Використання матеріалів сайту лише за умови посилання (для інтернет-видань - гіперпосилання) на “Українську правду” не нижче третього абзацу.

• Правила використання матеріалів сайтів Інтернет-холдингу ‘‘Українська правда’’ (Оновлено) | Українська правда

Related: ua-datasets/ua_datasets/src/text_classification at main · fido-ai/ua-datasets Related: facebook/flores · Datasets at Hugging Face frow wikinews in infinite languages including UA!

Somehow magically use WikiData

• Douglas Adams - Reasonator
• KGQA/QALD_9_plus: QALD-9-Plus Dataset for Knowledge Graph Question Answering

Context: 230928-1527 Evaluation benchmark for DE-UA text

General

• would be cool to create ones from different HELM scenarios¹
• would be cool to find not-work-intensive ways to create this data coming from other benchmarks (e.g. classify headers by article tags etc.)
• especially find cool ways to use the annotated corpora I found
• I could generate my own tasks easily with some kind of annotation tool, a la label-parser, and annotate bits of Ukrainian Wikipedia²
• I could use some google translate API³ thing

Ideas

1. Based on LinguisticAndInformationSystems/mphdict: Digital lexicographic systems Ukrainian language + (the grammatical dictionary, synonymous dictionary, etymological dictionary +):
   1. Find the best synonym for $word
2. Tasks on Ukrainian/Russians verbs of motion⁴:
   1. Correct verb of motion for hypothetical situations
3. Ask whether certain words rhyme
   1. especially ones where the letter make it seem like they do, but they don’t
4. Чи правильно використані фразеологізми
5. Find the correct tag for the title of an article, from the possible parallel corpus: [[230928-1651 Random stuff about the Masterarbeit#UA-RU parallel corpus]]
6. Children’s book test<@taskCBT (2015) z/d/>
   • Gutenberg has no Ukrainian books, but Anna’s archive does and many of them are actually stories and epub/fb2: казки - Search - Anna’s Archive
   • One could filter them by decade etc. for copyright
   • Then POS-tag, and automatically generate examples
7. Yes/no questions:BoolQ: Exploring the Surprising Difficulty of Natural Yes/No Questions - ACL Anthology

Neat datasets

• I could use these open data for petitions to match the text by type! 2.37. Дані про електронні петиції Вінницької міської територіальної громади, у тому числі, осіб, що їх підписали, та результати розгляду - Петиції 2020 - OpenData.gov.ua
  • Data.gov.ua

Work required

Babi

From ⁵, automatically generated!

1. facebookarchive/bAbI-tasks at ccd8fd6af76d35346109e7bb5f7de9138d055e01
2. bAbI-tasks/lua/babi/World.lua at ccd8fd6af76d35346109e7bb5f7de9138d055e01 · facebookarchive/bAbI-tasks
3. !!! bAbI-tasks/lua/babi/tasks/worlds/world_basic.txt at ccd8fd6af76d35346109e7bb5f7de9138d055e01 · facebookarchive/bAbI-tasks

I could also use a graph-based approach? As in create an ontology, ask questions about it?..

Or split it into multiple sub-tasks! one for time, one for y/n, etc.?

ЗНО?..

Завдання та відповіді на тести ЗНО/НМТ 2022, 2021, 2020, 2019, 2018 та минулих років – Освіта.UA:

• the ones I clicked were OCR’d PDFs
• one could manually parse them

Make my own IMDB dataset

Find some popular website with comments and ratings, do sentiment analysis: can I scrape https://rozetka.com.ua/jagermeister_4067700015532_/p4971091/comments/ ?

• Also: comfy.ua: Відгуки про Pecham Professional 600 мл черный)
• Someone did something similar! vkovenko/cross_domain_uk_reviews · Datasets at Hugging Face

Not all comments are in UA but I can filter it.

Use movie subtitles for basic dialogs

• e.g. Top rated movies - opensubtitles.com | opensubtitles.com
• OpenSubtitles Dataset | Papers With Code
• but then to do what?..

Where to get ideas

• Read a UA/RU language textbook for other cool hard things like the verbs of motion
• Глянути завдання ЗНО!

Existing tasks

UA-only

From fido-ai/ua-datasets: A collection of datasets for Ukrainian language:

• POS tagging
  • Raw: https://lab.mova.institute/files/robochyi_tb.conllu.txt
• SQuAD
  • Raw: FIdo-AI/ua-squad at main
• News classification
  • Raw: FIdo-AI/ua-news at main

Multilingual including UA

• Belebele Dataset | Papers With Code is a " multiple-choice machine reading comprehension (MRC) dataset", 122 languages
  • facebookresearch/belebele: Repo for the Belebele dataset, a massively multilingual reading comprehension dataset.
  • facebook/flores · Datasets at Hugging Face has literally an example in Ukrainian <3
    • I CAN USE IT AS SENTENCE CLASSIFICATION BENCHMARK!!!!
  • SIB-200: A Simple, Inclusive, and Big Evaluation Dataset for Topic Classification in 200+ Languages and Dialects | Papers With Code
• KGQA/QALD_9_plus: QALD-9-Plus Dataset for Knowledge Graph Question Answering - one of the 9 langs is Ukrainian! One could theoretically convert the entities into text
  • One could look for similar datasets over wikimagic in English, then take the name of the corresponding Ukrainian page
• Training prompts for instruction finatuning, translated to UA too, can be used for matching?.. MBZUAI/Bactrian-X · Datasets at Hugging Face
• Measuring knowledge retrieval from LMs in many languages: https://huggingface.co/datasets/Polyglot-or-Not/Fact-Completion / daniel-furman/polyglot-or-not: [arXiv pre-print] Are foundation language models multilingual knowledge bases?
  • Actually quite cool! Multilingual leaderboard and all that
  • Can be neatly compared to a pure-UA model

Officially - I’m doing this!

This post will be about dumping ideas and stuff.

Related posts for my first paper on this topic:

• 221120-1419 Benchmark tasks for evaluation of language models
• 221205-0009 Metrics for LM evaluation like perplexity, BPC, BPB
• 221119-2306 LM paper garden My first paper on the topic:

Procedural:

• I’ll be using Zotero
• I’ll be writing it in Markdown
  • TODO: Zotero+markdown+obsidian?..

General questions:

• Write my own code or use any of the other cool benchmark frameworks that exist?
  • Will it involve writing the code to actually run the model, or just parsing input/output types?
  • Metrics?
  • If I’ll write the code: in which way will it be better than, e.g., eleuther-ai’s lm-evaluation-harness?
• Task types/formats support - a la card types in Anki - how will I make it
  • extensible (code-wise)
  • easy to provide tasks as examples? YAML or what?
• Do I do German or Ukrainian first? OK to do both in the same Master-arbeit?
• Using existing literature/websites/scrapes (=contamination) VS making up my own examples?

Actual questions

• What’s the meaningful difference between a benchmark and a set of datastes? A leaderboard? Getting-them-together?..
• Number of sentences/task-tasks I’d have to create to create a unique valid usable benchmark task?
• Is it alright if I follow my own interests and create more hard/interesting tasks as opposed to using standard e.g. NER etc. datasets as benchmarks?

My goal

• Build an Ukrainian benchmark (=set of tasks)
• Of which at least a couple are my own
  • The datasets uploaded to HF

Decisions

• Will write in English
• I’ll upload it to HF hub, since all the cool people are doing it
• Will be on Github and open to contributions/extensions
• Write the code as generally as possible, so that both it’ll be trivial to adapt to DE when needed

Resources

• Github

  • asivokon/awesome-ukrainian-nlp: Curated list of Ukrainian natural language processing (NLP) resources (corpora, pretrained models, libriaries, etc.)
    • see their links to other resources!
      • Helsinki-NLP/UkrainianLT: A collection of links to Ukrainian language tools
      • UA grammatical error correction competition! Damn! CodaLab - Competition
  • Ukrainian nlp projects on github, as well as #nlp #benchmarks Repository search results
  • ukrainian-language · GitHub Topics

• UNLP 2023 | Program

  • The UNLP 2023 Shared Task on Grammatical Error Correction for Ukrainian - ACL Anthology really cool paper with cool links/citations.

• Cool model with links to datasets etc.! robinhad/kruk: Ukrainian instruction-tuned language models and datasets

• Datasets UA, almost exclusively

  • Lists
    • A lot of them here: ukrainian-language · GitHub Topics
    • zeusfsx/ukrainian-stackexchange · Datasets at Hugging Face
    • hard to read but: Hugging Face – The AI community building the future. - starting from page 2-3-4 the non-multilingual ones start
  • LARGE news with titles and uris: zeusfsx/ukrainian-news · Datasets at Hugging Face
  • Machine Learning Datasets | Papers With Code
    • Multiple choice comprehension, multilang: Belebele Dataset | Papers With Code
  • FactCompletion
  • reviews from rozetka/tripadv/.. vkovenko/cross_domain_uk_reviews · Datasets at Hugging Face
  • 300k IS-A relations, some quite funny: lang-uk/hypernymy_pairs · Datasets at Hugging Face

• Benchmarks UA

  • Contextual Embeddings for Ukrainian: A Large Language Model Approach to Word Sense Disambiguation - ACL Anthology
  • fido-ai/ua-datasets: A collection of datasets for Ukrainian language

    • ua_datasets is a collection of Ukrainian language datasets. Our aim is to build a benchmark for research related to natural language processing in Ukrainian.

    • Cool example of API usage: ua-datasets/ua_datasets/src/question_answering at main · fido-ai/ua-datasets

• UA grammar/resources/…

  • Linguistic Resources for the Ukrainian language on-line - Universität Regensburg
    • лабораторія української
      • I need to know more theory to understand but feels EXTREMELY useful
      • has an API: > curl -F json=false -F data='привіт мене звати Сірьожа' -F tokenizer= -F tagger= -F parser= https://api.mova.institute/udpipe/process
  • Генеральний регіонально анотований корпус української мови (ГРАК): ГРАК - site.name
  • Corpora UA
    • brown-uk/corpus: Браунський корпус української мови
    • золотий стандарт / UniversalDependencies/UD_Ukrainian-IU at dev
    • Інші корпуси української мови та слов’янських мов - site.name, with info about whether it can be downloaded
    • saganoren/ukr-twi-corpus: A corpus of Ukrainian Twitter texts + instructions for downloading and filtering texts.

• General evaluation bits:

  • Hannibal046/Awesome-LLM: Awesome-LLM: a curated list of Large Language Model
  • Chinese: onejune2018/Awesome-LLM-Eval: Awesome-LLM-Eval: a curated list of tools, datasets/benchmark, demos, learderboard, papers, docs and models, mainly for Evaluation on LLMs.

Benchmarks - generic

Here:230928-1735 Other LM Benchmarks notes

Cool places with potential

• Ask Про сайт | Горох — українські словники if they can make dumps available, I could do something like “find the closest synonym to this word” etc.
  • OH NICE: Home · LinguisticAndInformationSystems/mphdict Wiki
    • These seem to be the DBs of the dictionaries: mphdict/src/data at master · LinguisticAndInformationSystems/mphdict
• Cited in WSD task¹:
  • !!! ULIF | UKRAINIAN LINGUISTIC PORTAL Ukrainian Lingua-Information Foundation, NAS of Ukraine
    • Як .. атмосферно: UNLC Український мовно-інформаційний фонд НАН України
  • https://sum20ua.com/Entry/index?wordid=195556&page=0
• Open data places:
  • Data.gov.ua

Plan, more or less

1. Methodically look through and understand existing benchmarks and tasks
   1. Kinds of tasks
   2. How is the code for them actually written, wrt API and extensibility
2. Do this for English, russian, Ukrainian
3. At the same time:
   1. Start creating small interesting tasks 230928-1630 Ideas for Ukrainian LM eval tasks
   2. Start writing the needed code
4. Write the actual Masterarbeit along the way, while it’s still easy

Вы всё равно не знаете, что с этими жизнями делать. И куда бы вы ни глядели, вы все равно глядите в огонь, в котором сгорает ваша жизнь. Милосердие в том, что вместо крематориев у вас телевизоры и супермаркеты. А истина в том, что функция у них одна. (Пелевин, “Generation ‘П’")¹

Довгий вступ, як на сайтах з рецептами перед рецептом, де історія про те, як в дитинстві автора хтось робив цей суп і…²

Недавно мені до рук потрапило видання книги “Моральні листи до Луцілія — Вікіпедія” Сенеки, майже ідентичне тому, яке я читав багато разів в останніх класах школи і перших курсах університету. Книжку надзвичайно любив ще тоді, і вона для мене, разом з “Келією Чайної Троянди” Костянтина Москальця, найважливіша книжка того періоду, або - не побоюсь цих слів - найважливіша книжка, крапка.

Та перша книжка (розписана, потерта та помʼята, як має бути книга, яку читають) була забута в кріслі літака МАУ, і я забув про її існування. До сьогоднішнього дня, коли в моїх руках не опинилась її сестра, в тій самій обкладинці, з тим самим перекладом, тільки (незрозуміло, як) трошки товстіша за попереднью.

Прочитав перші 15 листів ледь не на одному подиху, згадуючи як окремі думки так і конкретні речення/формулювання, підкреслюючи ті самі цитати в тих самих місцях, насолоджуючись кожною секундою.

У мене традиція - всі книжки, які я читаю, я датую на 13 сторінці, і читаючи - дуже багато розписую, підкреслюю, … (Якщо в книзі нічого підкреслювати - книжка не варта того, щоб її взагалі читати). Потім кожного разу, коли я цю книжку перечитую, я роблю все те саме - підписую і датую тринадцяту сторінку і т.д., але вже іншим кольором. Так чітко видно, які речі мені здавались важливими колись, які я не помітив, які не розумів, які перестав розуміти, і т.п., так би мовити історія мого сприйняття книжки.

(Один з найгірших спогадів в житті повʼязаний з тим-таки примірником Сенеки, ту книжку я читав до депресії, попідкреслював, і перечитуючи в пошуках комфорту на самому дні раптом зрозумів, що половина моїх поміток - на занадто довгих реченнях для мене зараз, і в мене недостатньо робочої памʼяті, щоб їх зрозуміти, хоча ще два роки тому розумів…)³

Так от, у цієї книжки я чітко пригадував, що мені там подобалось, з цим я був не згодним, що вразило, і так далі.

І те, наскільки перебільшеним, елітарним та неактуальним я сприйняв лист VII.

Сенека; Лист VII⁴ про юрбу та видовища

Книжка вважається одним з двох найважливіших книжок філософської течії стоїцизму (друга - “Розмисли. Наодинці з собою” Марка Аврелія). Вона оформлена як листи старшого товариша молодшому, і там ненавʼязливо описуються думки Сенеки про те, як правильно жити.

Біографію Сенеки та його філософією гармонізувати складно, і він сам це розумів. Є коли “If you are so smart why aren’t you rich”, а є коли пишеш моральні листи але сам прийшов до влади при імператорі Калігула, був особистим вчителем Нерона (і досяг вершини багатства і влади саме при ньому)⁵. Але я все життя вірив, що можна чомусь навчитись і у поганого оратора, Сенека ж пише дуже непогано. Те, що Сенека не прожив життя так, як проповідував, і те, що його track record як вчителя не блискучий (Нерон…), не заважає мені вважати його думки цікавими і цінними. Я впевнений, що Сенека погодився б з цим. Він багато писав про те, що все гарно написане - класне, хто б не був автором.⁶

Так от (виділення мої, цитати тут і далі наводитиму за чудовим перекладом Андрія Содомора):

Сенека вітає свого Луцілія!
Питаєш, чого слід уникати передусім? Юрби. Тобі ще небезпечно стикатися з нею. Я принаймні не приховую своєї слабості: ніколи не можу повернутися додому, зберігши неторкнутими ті звичаї, які виніс. Дещо з того, що я довів до ладу, розладнується; дещо, чого позбувся, повертається.
[…]
Спілкування з багатьма, - шкідливе. Завжди-бо трапляється хтось такий, хто або напучує нас на якийсь порок, або таки передасть його нам, або непомітно забруднить ним. Отже, що густіша юрба, в яку поринаємо, то більша для нас небезпека. Але ніщо не є таким згубним для добрих звичаїв, як учащати на якісь видовища. Саме тоді разом із приємністю легко прокрадаються в душу й пороки. Розумієш, що маю на увазі? Повертаюся звідти пожадливіший, марнославніший, вибагливіший, навіть жорстокіший і нелюдяніший - побував серед люду.
[…]
«Але ж не один із них йшов на грабунок, убив людину».- Ну й що з того? Він убив, він і розплачується тепер. А ти, що ти вчинив, нещасний, щоб дивитись на це?.. «Вбивай, шмагай, пали! Чому так боязко набігає на меч? Чому так нерішуче вбиває? Чому так мляво йде на смерть? Батогом женіть на вістря, хай голими грудьми навзаєм приймають удари!» Перерва у видовищах? - «Хай і в перерві гинуть люди, щоб не було й хвилини, нічим не заповненої!»
Невже не розумієте, що погані приклади обертаються проти тих, хто їх подає? Дякуйте безсмертним богам, що жорстокості вчите того, хто надто тупий до науки. Так. Од юрби якомога далі повинен перебувати той, чия душа ще надто ніжна й ще не досить цупко тримається добра: легко переходить на сторону більшості. […]
Хоч як гартуємо свою вдачу, а перед такою навалою пороків ледве чи хтось міг би встояти. Чимало зла тягне за собою один лише приклад чи то марнотратства, чи скупості; спілкування з розбещеним поволі й нас розслаблює і розніжує; багатий сусід роздуває жадобу; пороком, наче ржею, пройметься від лихого товариша навіть світла, щира душа. То що, гадаєш, зостанеться від нашої доброзвичайності, коли на неї рушить увесь люд? Неодмінно або наслідуватимеш його, або - зненавидиш. Слід уникати як одного, так і другого: не вподібнюйся до лихих через те, що їх багато, але й з багатьма не ворогуй через те, що вони неподібні до тебе. Заглиблюйся, наскільки можливо, в себе самого.
Приятелюй лише з тими, які можуть зробити тебе кращим. Вигода тут обопільна: люди, навчаючи, вчаться.[…]

Сенека писав про шкідливість юрби та видовищ. Видовища в тому контексті - битви гладіаторів. (Юрба - просто юрба, буквально і в переносному сенсі, as far as I can tell.)

Релевантність впливу битв гладіаторів на мораль та психіку громадян в Києві XXI століття мені вважалась нульовою; заборона говорити з юрбою/людьми, щоб не дай Боже не навчитися від дних дна, вважалась невиправдано елітарною (хоча якби мої співвідчизники ходили дивитися на страти від нудьги - who knows; у будь-якому випадку Листи писались, коли Сенека майже тотально розчарувався в своїх громадянах та, гм, владі).

Читаючи на рівні очевидних метафор того і іншого - ну ок, так, можу зрозуміти меседж, але він не вау і це не мій улюблений лист.

Таке буває часто, якщо читати відносно древні книжки, часи міняються, люди міняються, мораль міняється, те, що вважалось ненормальним в 1965 році зараз очевидне, - чого хотіти від книжки 65 (шістдесят пʼятого) року. Взагалі тема що гладіатори не ОК, бо викликають як мінімум жорстокість, в часи написання книги мабуть була якщо не революційною, то точно не мейнстримною. Очевидні класні кусочки (“Приятелюй лише з тими, які можуть зробити тебе кращим.") є, вони є завжди, а так - дочитуємо, перегортаємо сторінку, і йдемо далі.

Юрба та видовища у 65 та 2023

Читаючи цей Лист зараз, пригадуючи, як ледь не зверхньо я його пропускав раніше, раптово, я зрозумів релевантність цих рядків і прикладів (як мінімум для мене).

(Джерело: (172) Reddit - Dive into anything)

Повертаюся звідти пожадливіший, марнославніший, вибагливіший, навіть жорстокіший і нелюдяніший - побував серед люду в коментарях посту в Телеграмі про те, як таксист в Одесі відмовився виключити російську музику.

А, аааа, тааак, зрозуміло, це має сенс, ось про що йшла мова!

“бо ж не слів треба триматись, а думки” / “ведь сохранять верность надо не словам, а мыслям”

(Лист IX)

Дякую, Сенеко, дякую, бо далі буде моя інтерпретація того, що б ти мав на увазі зараз, і я їй буду вірний не менше буквального тлумачення (раптом мене запросять на битву гладіатора з левом, хто зна), і обидва припишу тобі.

Далі спробую зібрати думки на багато тем, які всі дотичні до тих самих проблем; не виключено, що як Сенека, так і інші авторитети-чи-не-дуже, яких згадуватиму, вважатимуть це сміттям, а мене - ідіотом, і цей пост зіпсує вам життя і спалить будинок.

Як часто буває в цьому блозі, цей пост має допомогти як мінімум мені⁷, все інше - бонус.

Caveat emptor, і за одно - lasciate ogni speranza voi, che entrate.

Список розваг, яких не любив Будда

(Або: list of things that make life worth living but we can’t let people enjoy things, can we)

Три поста про різні речі, обожнюю всі три, рекомендую прочитати повністю разом з Сенекою:

• Superstimuli and the Collapse of Western Civilization — LessWrong
• The Courage to Live Consciously – Steve Pavlina (archived⁸)
• Sabbath hard and go home | Compass Rose (archived⁹ )

Якщо ми забули, які бувають розваг, і хочемо ширший список, ніж гладіатори та вистави між ними, fear not. Ось список ігор, в які не грав Будда, вважаючи їх “cause for negligence”: List of games that Buddha would not play - Wikipedia. Сутра звідки це¹⁰ має ще список розваг:

“Or he might say: ‘Whereas some honourable recluses and brahmins, while living on food offered by the faithful, attend unsuitable shows, such as:

• shows featuring dancing, singing, or instrumental music;
• theatrical performances;
• narrations of legends;
• music played by hand-clapping, cymbals, and drums;
• picture houses;
• acrobatic performances;
• combats of elephants, horses, buffaloes, bulls, goats, rams, cocks and quails;
• stick-fights, boxing and wrestling, sham-fights, roll-calls, battle-arrays, and regimental reviews—

the recluse Gotama abstains from attending such unsuitable shows.’

Якщо і цього недостатньо, то ось моя власна спроба:

• Читання стрічки Твіттеру/Фейсбуку/ВК/Tiktok/.., з розфокусованими очима, хоча вони давно не радують (альтернативно: і всі однаково нереально цікаві і треба листати далі)
• Сперечання з людьми в коментарях - АБО - написання абсолютно пустих власних коментарів, де очевидно, що з вами всі погодяться. Це принесе вашому коментарю лайки чи зірочки чи щось не менш важливе.
• Коли щось відбулось, або може відбутися, doomscroll-ити очікуючи оновлень, половина з яких - завідомо фейки, знаючи, що що б там не відбулось, на ваше безпосереднє життя воно цієї ночі повпливає менше, ніж невиспаність завтра вранці. Знаючи, що ви взагалі нічого не втратите, прочитавши цю новину у скороченому вигляді потім (якщо це “щось” відбудеться і новина взагалі буде).¹¹
• Тупі але addicting ігри в мобільному телефоні.
• Тікток. Ще раз.
• Читання Вікіпедії годинами підряд про умовний розпад Н-ської імперії чи щось подібне. Знову ж таки, замість сну, який потрібен більше.

І тут питання наступне.

What do you want to want?

Життя коротке. Люди складні. Сенс мистецтва в тому, щоб давати комфорт тим, хто страждає, і викликати хвилювання чи хоча б сумніви в тих, у кого все добре.

А сенс цього посту - зробити так, щоб ті, хто думає, що в них все добре, помітили вогонь навколо, в якому згорає їх життя, болото, в якому вони повільно тонуть, і мох, який росте на них, і який з кожною хвилиною стає м’якішим і теплішим і затишнішим.

Життя коротке. Люди складні. Настільки складні, що конструкція “що ти хочеш хотіти” інтуїтивно зрозуміла, при відсутності складніших модальних дієслів які могли б передати всі відтінки “Я не хочу робити Х але все рівно роблю”.

• “я не хочу продовжувати пити, ненавиджу кожну пляшку, яку купляю, бачу як це вбиває мою сім’ю, здоров’я та роботу, тим не менше сьогодні знову піду куплю чергову пляшку”.
• “мені сумно, що я провів останні п’ять годин дивлячись нецікаву мені муть, це неприємні думки, я не думатиму їх, я продовжу дивитися нецікаву мені муть”

Який же цікавий парадокс, що ми можемо свідомо робити те, що ми свідомо не хочемо робити.

Весь цей час, глибоко всередині, чи не сильно, є відчуття вічності, світла, розуміння, що всередині нас є частинка бога, що ми - людина, що ми можемо все. Є відчуття, що ми зраджуємо те вічне, що в нас. Що ми не були створені для бездумного поїдання lowest common denominator content.

Що нам соромно..?

Що навколо нас матриця, що світ навколо створений для того, щоб не дати нам побачити це вічне в собі, чи хоча б не тримати його у свідомості занадто довго. Що є способи звільнитися від без

Люди - єдина тварина, для якої її власне існування є проблемою.

Медитація солушн і спасіння, відсутність Ігор і людей спасіння

• Inviting Mara to Tea (archived¹²)

• DEMONS (archived¹³)

• Become Superhuman: Maximize Your Potential and Fulfill Your Destiny | The Art of Manliness

• Social media, коменти в ТГ це як театр, culture of being offended

• Потеря времени, илы воли, не приносит пользы

• no SM во время отпуск привела к чувствам счастья, глубины, способность/желанию творить, убирать

• lowest common denom content

• задавати собі питання як глибоко читати теекст, викидати непотрібний щоб відчути нудьгу

• задавати собі питання на які треба відповідь перед чтанням матеріалу

• • ADHD meme stimuli media

• Время проходит, жизнь коротка, чашка чая

• Factfulness, infornography,

• Let people enjoy things

“When God says no, He is saying, ‘Don’t hurt yourself. ( Emerson Eggerichs)

The ‘new’ function in matplotlib for this is matplotlib.pyplot.bar_label — Matplotlib 3.8.0 documentation (ty Revisions to Display count on top of seaborn barplot [duplicate] - Stack Overflow):

ax = sns.histplot(df.langs_parsed)
#ax.set_xlabel("Language(s)")
#ax.set_ylabel("# of files")

for i in ax.axes.containers:
    ax.bar_label(
        i,
    )

The second link has infos about barplot, catplot, and countplot too!

If the text goes over the limit and the light-gray background of seaborn’s theme or something, increase the limit as:

ylim = ax.axes.get_ylim()[1]
new_ylim = ylim + 300

ax.axes.set_ylim(0, new_ylim)

# you can also set padding of the labels in px and Text (https://matplotlib.org/stable/api/text_api.html#matplotlib.text.Text) properties:
for ax in g.axes.containers:
    g.bar_label(ax, padding=-10,fontsize=5)

GitHub - adbar/German-NLP: Curated list of open-access/open-source/off-the-shelf resources and tools developed with a particular focus on German

It includes a really cool list of corpora!

And at the end has a list of other such pages for other languages etc.

EDIT Oh wow: GitHub - asivokon/awesome-ukrainian-nlp: Curated list of Ukrainian natural language processing (NLP) resources (corpora, pretrained models, libriaries, etc.)

Also: deutschland · PyPI: “A python package that gives you easy access to the most valuable datasets of Germany.”

The LREC Author’s Kit prints all things in the .bib file and it uses \nocite{*} for that.

The Internet from 2009 agreess that’s the way to go : Biblatex - Printing all entries in .bib file (cited and not)

Removing this line removes the printout.

Lastly, the link above shows printing separate bibliographies; the LREC Author’s kit does something different for the same:

\subsection{Language Resource References}

Language resource references should be listed in alphabetical order at the end of the paper.

\nocite{*}
\section{Bibliographical References}\label{sec:reference}

\bibliographystyle{lrec-coling2024-natbib}
\bibliography{lrec-coling2024-example}

\section{Language Resource References}
\label{lr:ref}
\bibliographystylelanguageresource{lrec-coling2024-natbib}
\bibliographylanguageresource{languageresource}

\newpage doesn’t always work for well me in, esp. not in the IEEE and LREC templates. Either only one column is cleared, or there are issues with images/tables/… positions.

\clearpage works for me in all cases I’ve tried.