Gezien beide soorten in de vlucht niet van elkaar te onderscheiden zijn, is over de specifieke biotoopkeuze nog weinig bekend. In de zomer verblijft de soort in zolders en waarschijnlijk ook in boomholtes. ’s Winters vindt men de Grijze grootoorvleermuis in bunkers, forten, mergelgroeven, andere ondergrondse ruimten en (kerk)zolders.