《与我常在》是陈奕迅发行的第二张粤语专辑，同时也是他的第三张个人专辑，共收录11首歌曲，由李振权、王纪华担任制作人，于1997年4月12日通过华星唱片发行。

1996年，在陈奕迅推出个人首张同名专辑《陈奕迅》时，封面是穿着西装的，对外的宣传口号是英国回来的留学生，那时他也没有特别意见。而到了第二张粤语专辑《与我常在》封面设计的时候，陈奕迅认为自己应该是很随意的，于是他穿上牛仔裤，搭配着随意的球鞋，打扮得不是很贵气，懒洋洋地躺在沙发上，这样陈奕迅才感觉比较像他自己。由于所有的制作费都花费在音乐上面，所以做封面的时候基本上只有三个人参与：创作人、摄影师和陈奕迅。其中，摄影师和造型师是同一个人，而创作人则是杨小姐，她对陈奕迅的音乐影响很大，会给他听很多不同的外国歌曲，也会给他介绍一些比较独立的乐队去听。

对于陈奕迅来说，该专辑还要感谢其中的一位制作人王纪华，通常陈奕迅创作给自己的歌曲都会拿给黄伟文来填词，从《那一夜有没有说》这首歌开始，陈奕迅认为黄伟文创作的故事很动人。当陈奕迅只创作一小段曲调出来时，黄伟文便可以想出一个故事。其中，小样版的《那一夜有没有雪?》便是在讲述一对情侣有一天晚上吵架，之后男的便跑了出去，明明彼此都很相爱，却因为吵架，有一些事情没有说出口，后来女生在房屋里等他，等了很久对方都还没有回来，后来发现原来是他发生意外被车撞了。当女生知道时很伤心，很想说一些话，所以该歌曲的名字取为《那一夜有没有说》，那天刚好在下雪，而有一些东西还没有说完。

在陈奕迅的作品中，从《与我常在》开始用偏“精神分裂”的概念作为专辑主题。出道仅三年，陈奕迅便贡献出《与我常在》这张质量颇高的粤语专辑。专辑同名主打歌《与我常在》成为陈奕迅的首支传唱到大街小巷的歌曲，同时也标志着他与林夕的合作进入了“亲密无间”的时代。该曲通过对自我内心的提问，引发听者的情感共鸣，流淌的歌声中没有一个孤独字眼，却处处显孤独。该专辑衔接了陈奕迅前作《陈奕迅》与《一滴眼泪》中部分收录曲的曲风，而这种风格也在该曲中被放大了，听众一旦闭上眼睛听到李振权制作给陈奕迅的歌曲时，便好像看到一个人背着吉他在公路上，向前一直走的那种感觉。

除此之外，《那一夜有没有说》一听便可以嗅的出是陈奕迅作曲的味道，颇具电影感的《那一夜有没有说》用隐晦的意象营造出孤寂的氛围，陈奕迅自己创作的歌曲首首上品，但可惜的是这些歌曲几乎没有一首成为专辑的主打歌；而不局限于爱情主题的《今天等我来》和《伴游》，则以不同的视角解读着游子归乡与旅途的心情；《抱拥这分钟》和陈奕迅之后于2015年推出的《黑洞》有种姊妹篇的味道，两首歌曲都由李振权和潘源良打造，同样写出了时空倒错般的情爱感触。