Как сделать круглую кнопку в андроид?

создаем в папке drawable файл oval_button.xml
<?xml version="1.0" encoding="utf-8"?>
<selector
  xmlns:android="http://schemas.android.com/apk/res/android">
    <item>
        <shape android:shape="oval">
            <solid android:color="#FCD366"/>
        </shape>
    </item>
</selector>

а в активити:

<Button
    android:id="@+id/button1"
   android:background="@drawable/oval_button"/>

Хотите вы того или нет, но любой View рисуется на Canvas, который однозначно имеет прямоугольную форму. Для вашей задачи подходит только кастомный View, в методе onDraw которого вы рисуете круглую кнопку, а в методе onKeyDown вы вычисляете координаты и решаете должно обрабатываться событие или нет, инициируя дополнительно performClick для вызова обработчиков подписчиков.

Покажите как вы задавали круглый бэкграунд для кнопки.