2023 年は、考え、不安、そして受け入れを経験しました。
学術についての考え#
2022 年末に、以前の主要な学術的な仕事が職業的な態度の悪い査読者に遭遇し、自分自身と共同研究者の多くのエネルギーと時間を無駄にすることになりました。それにより、持続的な自己否定と虚無感が生じました。以前にも同様のことを経験したことはありましたが、今回の事態は予想をはるかに超えていました。同業者が約 1 年もの間引き延ばし、最終的に「この「形容詞 A + 名詞 B」の仕事は「名詞 B のジャーナル」のスコープに合わない」という評価をしたのです。
そのため、初稿が完成した後の 2 年目に、関連する技術の爆発的な発展に直面しながら修正と再投稿を行い、2023 年の終わりに受け入れられることができました。ここでも、指導教官と共同研究者に対しての肯定とサポートに感謝したいと思います。
他のいくつかの主導および共同の仕事は順調ではありませんでしたが、これらは予想を大きく超えるものではありませんでした。研究者の運命は、自信に満ちた自己否定の間で平穏な人生を見つけることです。博士課程は、一つの研究に完全に集中できる最後の職業生活かもしれません。将来的には、複数の仕事を並行して管理する能力を向上させることを願っています。
余暇についての考え#
時間はあっという間に潜在的な学術キャリアの終わりに近づいています（おそらく）。頻繁にヘッドハンターからの誘いを受けるようになりました。私の周りの統計によると、今年最も急募されているのはマルチモーダルな大規模モデルと量子化トレーディングです。
国内の金融市場の成熟度を考慮して、私は量子化トレーディングについては詳しく調査しませんでしたが、マルチモーダルな大規模モデルの仕事は次々と私に降りかかってきました。BERT から LLAMA、ViT から Diffusion、MoE から RLHF まで、基礎的な機械学習の理論的な研究をしている私には、大規模モデルの経験があるかどうかを尋ねられると、少し奇妙な感じがします。私の職歴は非常に明確に書かれており、いくつかの基礎的な ML 理論、AI+Web3 の PoC の経験がありますが、OpenAI や MetaAI の経験はありません（笑）。おそらくこれが「隔行如隔山」であり、私たちは自分の専門知識をあまりにも常識と見なし、本当に習得する必要のある生活の常識を古代の神秘的な言葉と見なしてしまうのでしょう。
今年の会議で、LLM の Prompt や Tuning に関する多くの研究を見ました。それはまるで手工業者がジェニー織機の最適化問題に取り組んでいるような感じです。情報の取得、検索、配信は常にインターネットの中核機能であり、私たちの技術的な蓄積、ガバナンスルール、道徳的基準は、この大きな変革に対応する準備ができているのでしょうか。私ははっきりとは言えませんが、この問題は長期間にわたって続くでしょう。なぜなら、Ilya Bengio などの学術界で最も賢い人々ですらまだ摸索の初めに過ぎないからです。
趣味についての考え#
2022 年には、WeChat 読書で約 50 冊の本を読みました。今年は統計を見ていませんが、おそらく少なくなるでしょう。ただし、自分の研究分野以外の記事、ブログ、実体書籍をより多く読んでいますので、全体的な読書量には大きな差はありません。
以前に推薦システムに関連する仕事をしたため、今年も「自分で情報を取得することを決める」ということを続けています。ソフトウェアプラットフォームが提供する推薦情報フィードに時間を費やすことはほとんどありませんし、ショートビデオアプリもダウンロードしていません。私たちの貴重な時間と注意力は商品として消費されるべきではありません。
Machine is Learning, Humans are Hooked. これは私たち機械学習の研究者が目指す未来ではありません。それは反ユートピア的なサイバーパンクの物語です。今年はサイバーパンク 2077 の DLC もプレイしました。自分自身でバイリンガルを月に送り届けることができました。まるで V と Rebecca のように。EVA、攻殻、2077、バイオショックの物語が一瞬にしてつながり、月は希望という微かな光です。
そして、2023 年の終わりに、私は月に到着しました（続く）。