(1) by mistake
I entered someone else’s room by mistake. (間違えて人の部屋に入った)
I got on the wrong bus by mistake. (誤って違うバスに乗ってしまった)

(2) by name
He called me by name. (彼は私を名指しした)
I know her by sight but not by name. (彼女の顔に見覚えがあるが名前は知らない)
I only know her by name. (彼女のことは聞いたことがあるが会ったことはない)
a friend of mine, Jeff by name (ジェフという私の友だち)

(3) by surprise
The question took the professor by surprise. (その質問は教授にとっては不意打ちだった)
The news of the accident took me by surprise. (事故の知らせが突然舞い込んだ)
take a town by surprise (町を奇襲して占領する)
The police took the burglars by surprise. (警察はその強盗たちの不意をついて逮捕した)

(4) by the way
By the way, do you know my brother is getting married? (ときに、君はうちの兄が結婚するのを知っていますか)
What’s the time, by the way? (何時だい、ところで)
Oh by the way, if you see Jackie, tell her I’ll call her this evening. (ああ、ところでもしジャツキーを見かけたら、今夜電話すると伝えてくれ)

(5) by heart
「心に近接して・によって」⇒「そらで」。英では「off by heart」もあります。
learn a long poem by heart (長い詩を理解して記憶する・している)
I’ve dialed the number so many times I know it by heart. (その番号は何回も電話しているのでそらんじている)
She’s learnt the whole speech off by heart. (彼女はスピーチ全部を理解してそらんじている)