“在刚开始的时候”可以用以下几种英语表达：
1、 At the very beginning
这是最直接且常用的翻译，适用于大多数语境。
2、 In the early stages
这个表达更侧重于描述某个过程或事件的初期阶段，也适用于“在刚开始的时候”这一含义。
3、 When it all started
这个表达更加口语化，常用于叙述故事或事件时，引出开始的部分。
4、 Right at the outset
“outset”意为“开始，开端”，这个表达也较为正式，适用于需要强调起始点的场合。
根据具体语境和表达需求，可以选择最合适的翻译。例如，在正式的书面语中，“At the very beginning”或“Right at the outset”可能更为恰当；而在口语或叙述性的语境中，“When it all started”可能更为自然。