Preciso fazer uma app android que rode em segundo plano, ou apenas que fique aberto, nele eu preciso receber dados do webservice em tempo real e alertar o usuário que chegou uma nova notificação, parecido com os apps de mensagem, mas nunca fiz algo desse tipo, qual biblioteca posso utilizar para isso? seria um websocket?
Você quer criar uma app com suporte a push notification. Atualmente, no Android temos o Firebase Cloud Messaging (FCM), que faz exatamente isso. Basta configurá-lo na sua app usando a documentação do FCM.
Opa, acredito que seja isto mesmo, Obrigado! vou estudar esta api.