По-моему практически все южное побережье Лонг-Айленда - сплошной пляж. Только не везде есть въезды или бывают пляжи "только для местных". Попробуйте Jones Beach и Fire Island. Нам последний нравится больше, но он чуть дальше от NYC. Въезд платный (зависит от времени года и времени суток).
Пляжи есть и по северному побережью Лонг-Айленда, но там же залив, поэтому пляжи не кажутся морскими/океанскими.
Из "интересных мест" могу порекомендовать съездить на маяк на мысе Montauk - на самом окончании Лонг-Айленда
http://www.sandiegofotki.com/travels/montauk.aspxЕще есть любопытный замок к северу от Port Washington
http://www.sandspointpreserve.org/ но туда стоит ехать только когда уже на деревьях будут листья, а то все будет голое и мрачное.
A! Мы еще как-то ездили на пароме с Orient Point (Long Island) в New London, RI. Нам показалось интересным. Но мы на паромах с машинами раньше не ездили, может быть поэтому и понравилось

К тому же фирма тогда оплачивала все расходы на поездку (это мы выбрали такой экзотический маршрут до Бостона).
Еще ньюйоркцы рекомендуют в качестве природы парк Bear Mountain.